顶想云AI周报20240531——AI治理和合规专题

 ## 一周热点 ### 下一个微信要来了？AI新时代助手“腾讯元宝“上线 5月30日上午，腾讯上线基于自研混元大模型的C端 AI 助手App“腾讯元宝”。此前，腾讯已在网页和小程序端推出了腾讯混元助手。与之前测试的混元助手相比，腾讯元宝在AI搜索、AI总结、AI写作等核心能力上都有升级，大模型效果提升50%。[查看详情](https://mp.weixin.qq.com/s/gZtTcJ73gL2FCRPT21bgeg) ### GPT-4o免费开放所有用户使用，GPT-5（AGI）is coming？ 最近OpenAI的种种动作来看OpenAI正在酝酿一些重大事情,一个全新的旗舰AI模型,可能会让我们比以往任何时候都更接近人工通用智能(AGI)。[查看详情](https://mp.weixin.qq.com/s/DxRTafA7Jg0lil0EjJ-6QQ) ### 人工智能首尔峰会召开，OpenAI等16家AI公司作出了什么安全承诺？ 5月21-22日，人工智能首尔峰会（AI Seoul Summit）在韩国举办，这是去年11月在英国召开的全球人工智能安全峰会的后续会议。10个国家以及欧盟的领导人共同签署《首尔声明》，呼吁加强国际AI治理合作以及治理框架之间的互操作性，倡导以风险为基础的政策和治理框架，支持启动首个国际AI安全研究所网络，促使国家间形成对AI安全的共同理解，并在研究、标准和测试方面进行协调。[查看详情](https://new.qq.com/rain/a/20240522A06MUR00) ### 犯罪分子使用 GenAI 的5种方式：防不胜防！ 5种利用 GenAI 技术犯罪的方式，包括： * 网络钓鱼Phishing：诱骗受害者泄露敏感信息。 * 深度伪造音频诈骗 Deepfake audio scams：生成式AI推动了深度伪造技术的发展，使得合成的图像、视频和音频更加逼真。 * 绕过身份验证 Bypassing identity checks：犯罪分子利用深度伪造技术，绕过银行和加密货币交易所的 KYC 身份验证系统。 * 越狱服务 Jailbreak-as-a-service：由于AI公司设置了多种安全措施来防止模型产生有害或危险信息，犯罪分子开始采用所谓的“越狱服务”，操纵AI系统生成违反政策的内容。 * 人肉搜索和监视 Doxxing and surveillance：AI语言模型经过大量互联网数据的训练，能够从大量信息中推断出某人的位置等敏感信息。 <br> [查看原文](https://www.technologyreview.com/2024/05/21/1092625/five-ways-criminals-are-using-ai) ### 黑客盯上了大模型 ChatGPT的发布，在带动新一轮人工智能浪潮的同时，也驱动了网络攻击和网络犯罪的升级。击者的攻击目标从传统的资产盯上了AI算力基础设施和大模型。[查看详情](https://36kr.com/p/2799140206964353) ### AI生成的内容究竟归谁 在中国，全国首例“AI文生图”著作权侵权案（“S案”）一审判决生效，引发了新一轮关于AIGC的可版权性以及权利归属问题的热烈讨论。在该案中，法院赋予利用人工智能生成的图片著作权法的保护，并肯定了AI使用者“创作者”身份，对AIGC引发的诸多著作权难题进行了探索和尝试，也为后续类似案件的处理提供了参考和借鉴。 本文将结合S案判决以及国内外相关实践，对AIGC的可版权性以及权利归属问题作进一步探讨和分析。[查看详情](https://www.kwm.com/cn/zh/insights/latest-thinking/copyright-issues-of-ai-generated-content.html) ### 国内大模型/智能体盘点丨16家公司，13款大模型，19个智能体 对 16 家领先公司的创新实践进行一次深度盘点。在这场智慧的盛宴中，13 款各具特色的大模型、19 个基于大模型开发的智能体将逐一亮相，它们不仅是技术突破的象征，更是开启未来智能应用的钥匙。[查看详情](https://mp.weixin.qq.com/s/tTOwAh_zVpCOhj01X9BxlA) ## 启智动态 ### 探索无限可能：ThinkChat推出全新插件商店！  ThinkChat新版上线一周后，官方给[AI助理](https://chat.topthink.com/)带来了更强大的插件功能，用户可以在聊天界面安装相应的插件工具来实现更多的对话场景和聊天能力。 从6月1日起，ThinkChat将停服进行备案登记，届时我们会上线全新的智能体商店功能，敬请期待！ ## 典型案例  [海螺AI](https://hailuoai.com/)是 MiniMax 旗下的生产力产品，是 MiniMax 基于通用大模型为用户打造的AI伙伴，可以帮你分析财报、速读长文、创作文案、智能搜索等、拍照答疑等等，支持语音通话。 ## 学习资源 ### 什么是 AI 治理？ 人工智能 (AI) 治理是指确保 AI 工具和系统保持安全并符合道德规范的防护措施。它建立了指导 AI 研究、开发和应用的框架、规则和标准，以确保安全、公平和尊重人权。AI 治理包含监督机制，可解决偏见、隐私侵犯和滥用等风险，同时促进创新和信任。[查看详情](https://www.ibm.com/cn-zh/topics/ai-governance) ### 生成式人工智能服务管理暂行办法 由国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局等七部门，于2023年7月13日联合公布了《生成式人工智能服务管理暂行办法》，并于同年8月15日正式实施。[查看办法全文](https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm) \| [一图读懂](https://www.thepaper.cn/newsDetail_forward_25725107) ### 大模型备案攻略，助力合规运营！ 从大模型及大模型应用合规的：算法备案、安全评估、大模型上线备案，解读其中的监管规定、具体流程、所需材料、安全评估事项等，为大模型合规提供攻略指引。[查看详情](https://www.nxrte.com/zixun/45150.html) \| [深度解析大模型备案全流程](https://mp.weixin.qq.com/s/vkez07A4lPED8QZh7kQjUw) ### 国内首个生成式AI安全指导性文件明确31种风险 2024年3月1日，全国网络安全标准化技术委员会发布了《生成式人工智能服务安全基本要求》是国内首个专门面向生成式AI安全领域的规范意见稿，也是对《生成式人工智能服务管理暂行办法》的支撑，首次提出生成式AI服务提供者需遵循的安全基本要求，涉及语料安全、模型安全、安全措施、安全评估等方面，给出了语料及生成内容的主要安全风险共5类31种。 [下载PDF](https://www.tc260.org.cn/upload/2024-03-01/1709282398070082466.pdf) \| [专家解读](https://www.tc260.org.cn/front/postDetail.html?id=20240319163359) \| [关注要点十问十答](https://www.junhe.com/legal-updates/2385) ### 前沿观察\|大模型合规之现实初探 对我国监管体系项下的大模型领域的合规要素予以梳理，并重点关注现实环境下，梳理当前落地应用的大模型主要的合规义务。[查看详情](https://www.kwm.com/cn/zh/insights/latest-thinking/preliminary-study-on-compliance-issues-for-foundation-models.html) ### 重磅发布：《人工智能的法律探究》 内容包括政策解读、法律问题探究、案例分析、AI合规管理及境外的AI发展五大部分，聚焦生成式人工智能服务提供者和使用者可能面临的科技伦理审查、知识产权、数据隐私及国家安全等风险和问题，并提出针对性的防范措施。[查看详情](https://www.kwm.com/cn/zh/insights/latest-thinking/publication/king-wood-mallesons-releases-exploring-the-legal-landscape-of-artificial-intelligence.html) ### 内容审核相关接口 [腾讯安全审核](https://doc.topthink.com/think-api/tencent_cms.html) —— 腾讯全栈内容安全解决方案 [文本审核增强版](https://www.topthink.com/api/135)——采用动态策略和模型强化变异对抗性 [图像审核增强版](https://www.topthink.com/api/136)——识别图像中是否有违反网络内容传播相关规定、影响平台内容秩序 [文本审核Plus版](https://www.topthink.com/api/138)——面向大语言模型的输入指令和生成文字分别提供审核服务 ### 《计算机视觉历史》系列专题 第1篇：《[计算机视觉的历史：通向AGI的垫脚石](https://mp.weixin.qq.com/s/m_GmuxjAUG-9KSRVcrsrKQ)》 第2篇：《[计算机视觉的黎明：从概念到早期模型（1950-70 年代）](https://mp.weixin.qq.com/s/TtqaXVHQ1pXPsGkjYEWaaw)》 第3篇：《[20 世纪 80 年代的计算机视觉：关键进展的沉寂十年](https://mp.weixin.qq.com/s/8ROWKgZwnr9joOEvyEHYmw)》 第4篇：《[计算机视觉的大飞跃：从 20 世纪 90 年代到 AlexNet](https://mp.weixin.qq.com/s/JAk-tn5A1f3V-q_IhmnriQ)》 第5篇：《[什么是空间智能？解读李飞飞成立的AI公司](https://mp.weixin.qq.com/s/hECMx6YewmJJ63bSoj3IaA)》