关注公众号，经常分享Android出海经验，开启出海成长之旅。添加微信：kris_wuii，进群讨论出海技巧。
大家好，我是小GO！近年来，海内外科技大厂的人工智能（AI）潮涌现。关于 AI 的王炸消息接踵而至：近期苹果与OpenAI达成合作，未来苹果的 Siri 语音助手可以连接ChatGPT；OpenAI丢出颠覆级文生视频模型-Sora；谷歌发布了一系列基于 Gemini 的「AI 全家桶」等等。与此同时，人工智能（AI）的崛起引起了我们的广泛的讨论和担忧。
6月7日，谷歌商店针对生成式 AI 类的APP实施新的整顿措施，要求开发者必须限制不当内容的传播，标志着谷歌在维护网络环境、促进健康信息流动方面迈出了重要步伐。
谷歌颁布 AI 类应用新政策官方文档详见：
一、新政策概述
违规的人工智能（AI）生成内容违反谷歌最新家庭政策。
色情内容：禁止人工智能生成主要用于满足性需求的内容。
暴力：禁止鼓励有害行为（例如危险活动或自残）的内容。
欺凌和骚扰：禁止发布助长欺凌和骚扰的内容。
欺诈：禁止用于欺诈的真人录音或录像。
恶意代码：禁止创建恶意代码的人工智能。
官方文件：禁止人工智能生成“官方”文件以促进不诚实行为。
该政策涵盖各种生成型人工智能的APP：
包括文本转文本人工智能聊天机器人应用、使用人工智能生成图像的文本转图像、语音转图像和图像转图像应用。
使用人工智能创建真实人物的语音和/或视频录制的应用。
仅托管人工智能生成内容而无法使用人工智能创建内容的应用（例如不包含人工智能内容生成功能的社交媒体应用）不在本政策的涵盖范围内。
谷歌要求开发者对其人工智能模型进行“严格测试”，以确保它们不会生成违禁内容。这包括对具有攻击性、非法或有害的内容进行测试。为了实施这些变更，开发者必须将用户举报和举报功能集成到他们的应用中。这样，用户无需退出应用即可举报令人反感的内容，开发者也能够据此制定内容过滤和审核策略。此外，开发者必须确保他们的应用遵守 Google Play 的不当内容政策。
三、未来发展
Google Play 还计划在未来添加新的应用功能，使向商店提交生成式 AI 应用程序的过程更加开放、透明和简化。这将帮助开发人员更好地了解其应用程序的要求和指南。未来，我们可以期待看到对生成式 AI 应用程序开发人员的更严格的要求。这可能包括：
强制独立第三方对人工智能模型进行测试和审核，以验证安全性和准确性。 使用先进的人工智能和人工审核进行主动内容审核，以识别和删除违规内容。 对生成可能不适合儿童的内容的应用实施严格的年龄限制和家长控制。 应用程序的透明度要求，披露内容是否由人工智能生成，以避免欺骗。 互操作性标准，实现跨平台报告和执行内容违规行为。
谷歌和其他科技公司可能会与政策制定者、学者和民间社会合作，制定负责任的人工智能开发和部署的综合框架。目标是促进创新，同时降低用户安全、隐私和福祉的风险。
