点击蓝字 关注我们
……
2024年9月19日，澳大利亚数字平台监管机构论坛（DP-REG）发布了一份关于生成式人工智能中使用的多模态基础模型（MFM）的工作文件。
DP-REG由澳大利亚竞争与消费者委员会 (ACCC)、澳大利亚通信与媒体管理局 (ACMA)、电子安全专员 (eSafety) 和澳大利亚信息专员办公室 (OAIC) 组成，是澳大利亚独立监管机构之间的一项重要信息共享与合作倡议的载体，致力于促进澳大利亚数字经济的安全、可信、公平、创新和竞争力。DP-REG中的每个成员都为工作文件做出了贡献，反映了DP-REG“促进澳大利亚数字平台技术监管的简化和统一”的宗旨。随着AI等技术的不断发展，监管机构必须就源源不断出现的新问题开展合作，以确保澳大利亚公民持续从新技术中受益。
该工作文件名为《技术审查——多模态基础模型》，是探索数字平台技术系列的第三篇工作文件。本文件探讨了多模式基础模型及其在数字平台背景下对消费者保护、竞争、媒体和信息环境、隐私和在线安全的影响。多模态基础模型（MFM）是一种生成式人工智能，可以处理和输出多种数据类型。大型语言模型（LLM）是生成式人工智能的一种类型，侧重于单一数据类型。大型语言模型可以生成多种输出，包括文本、图像、视频甚至音频。这些人工智能模型在由各种格式组成的超大数据集上进行训练，使其能够处理和生成结合这些不同形式的输出。
从生成个性化内容体验到创建音乐和图像的新方法，多功能人工智能为各行各业的消费者和企业应用带来许多机会，同时，也存在许多风险。这些风险与DP-REG成员在审查大型语言模型 (LLM) 时所考虑的限制因素相似，例如可能产生意料之外的、不准确的或有害的输出结果，进而引发公众对欺诈、错误和虚假信息的传播、有害内容的生成以及个人信息失控等问题的担忧。正是由于生成式人工智能正迅速扩展到其他领域，如图像、音频和视频生成等，DP-REG在这份新的工作文件中着重对这些技术进行探索，以更全面地考虑生成式人工智能的影响。
多功能媒体对各个监管领域产生影响，提出了涉及所有DP-REG成员责任的问题。这些问题包括深度伪造、个人信息收集和诈骗。例如，“深度伪造”会对数字经济中的在线安全、隐私、错误信息、消费者保护和信任产生影响。多功能媒体的潜在危害中则出现了一些共同的主题：
1.如果没有明确的披露和标识，人们可能很难分辨真实内容和人工智能生成的材料；
2.人工智能可以利用个人信息大规模制作高度个性化的内容，使内容更具说服力，并增加了传播和放大错误信息、恐怖主义宣传和诈骗等风险。
3.部署 MFM 可能会给执法带来越来越大的挑战，也会给DP-REG各成员的职权范围带来监管挑战。
这些挑战凸显了DP-REG成员监管机构共同监管这一技术的必要性。DP-REG成员的监管框架可适用于MFM产生的危害。因此，在适用框架的情况下，使用中型市场机制的受监管实体仍需遵守相同的消费者权益保护、竞争、隐私保护、信息安全和媒体相关的法律或法规，并应遵守其义务。在某些情况下，也有新的要求，例如2023至2024年登记的在线安全规范和标准适用于部署或提供访问多功能手机的某些服务等。本文件中也有关于多边金融市场机制如何与DP-REG各成员的责任相互交叉的详细解释。
澳大利亚政府正在考虑拟议中的改革，以加强监管机构解决消费者保护、竞争、隐私、在线安全以及误导和虚假信息相关问题的能力。澳大利亚和世界各地都在努力解决人工智能（AI）带来的问题。在国际上，监管机构和政策制定者已经出台了专门的人工智能立法、自律原则和治理框架。澳大利亚政府也在投资开发支持安全、负责任地采用和使用人工智能技术的政策和能力。这包括提供资金支持行业分析能力，以及协调政府各部门的人工智能政策制定、监管和参与活动。这些工作还将审查和加强医疗保健、消费者和版权法方面的现有法规。DP-REG成员将继续应用现有的框架，并就这些问题与政府合作，以确保为数字经济时代的市场主体提供安全、可信、公平、创新和具有竞争力的空间。
翻译：周子妍
涉及文章内容转载等事宜请联系
微信公众号后台编辑：周子妍
邮箱：cptlaw@163.com
手机：15861790772
