金融时报近日报道，"AI教父"约书亚?本希奥创立了名为LawZero的非营利组织。这位来自蒙特利尔大学的教授曾与Geoffrey Hinton、Yann LeCun共同获得2018年图灵奖，在人工智能领域享有盛誉。LawZero组织的核心目标是开发具有"诚实"特性的AI系统，用于识别和监控可能存在风险的"流氓"AI系统。
该组织正在研发名为Scientist AI的监控系统，该系统被设计为AI智能体的"守卫"。与普通AI不同，Scientist AI更像一位"心理学家"，能够理解和预测AI系统可能出现的不良行为。它采用概率评估方式来判断答案的正确性，并能在危害概率超过阈值时阻止相关行动。
LawZero已获得多方支持，包括AI安全机构Future of Life Institute、Skype创始工程师Jaan Tallinn以及前谷歌CEO Eric Schmidt创立的Schmidt Sciences。目前组织拥有约3000万美元初始资金和十余名研究人员，由本希奥担任主席。
本希奥表示，项目将首先验证方法论可行性，随后寻求企业或政府支持以扩大规模。他计划从开源AI模型入手训练系统，并呼吁投入更多资源确保监控AI与前沿AI同步发展。他特别警告，如果AI能在无人监督下执行长任务序列，可能带来严重破坏。
"筑梦岛APP涉低俗内容被上海网信办约谈"
近日，上海市网信办针对筑梦岛APP存在的内容违规问题采取了监管措施。据"网信上海"微信公众号发布的消息，该平台被发现在AI智能体生成内容环节存在低俗擦边等不良信息，可能对未成年人身心健康造成危害。6月19日上午，上海市网信办依法约谈了筑梦岛...
财联社｜2025-06-20 14:51
筑梦岛APP涉低俗内容被上海网信办约谈
近期，筑梦岛APP等AI聊天软件因虚拟角色互动生成低俗内容的问题引发社会关注。经核查，该平台在AI智能体内容生成环节确实存在低俗擦边等违规现象，对未成年人身心健康造成不良影响。6月19日上午，上海市网信办针对此事约谈了筑梦岛APP运营企业的...
界面新闻｜2025-06-20 14:51
中国AI进步获国际高度评价
当地时间6月18日，俄罗斯总统普京在圣彼得堡国际经济论坛期间，与全球主要通讯社负责人进行了会面。在会谈中，普京特别提到了中国在人工智能领域取得的显著成就，并表示这些成就让他感到"惊讶和高兴"。普京的这番表态，是在第28届圣彼得堡国际经济论坛...
界面新闻｜2025-06-20 14:00
百度地图推出全球首个"司机智能体"，实现自由导航和路线记忆
百度地图近日正式推出全球首个"司机智能体"功能，这项创新技术为用户带来了更加智能化的导航体验。官方宣传语"上路即自由"生动体现了该功能的核心理念，让驾驶过程变得更加灵活便捷。这项新功能包含多项实用特性，包括自由指路、个性化路名定制、偏好路线...
IT之家｜2025-06-17 09:42
上海库帕思科技CTO王长冕：西岸人工智能企业加速行业融合
6月10日，一场以“2025活力西岸：从城市焕新到人居范本”为主题的对话活动在上海西岸智塔成功举办。本次活动由上海市徐汇区营商服务中心指导，每日经济新闻、龙华街道办事处、上海西岸开发（集团）有限公司共同主办。徐汇区营商服务中心主任徐晖、龙华...
每日经济新闻｜2025-06-16 08:48
豆包使用成本降至三分之一 火山引擎推动智能体发展 带动智算一体机需求增长
火山引擎在Force原动力大会上宣布升级豆包大模型至1.6版本，并推出"区间定价"模式，将使用成本降至原来的三分之一。这一举措旨在加速智能体在多模态深度思考和大规模应用方面的发展。火山引擎总裁谭待表示，AI时代的技术主体正在从PC时代的we...
财联社｜2025-06-16 08:48
广西打造智能科技新平台
近日，广西壮族自治区正式发布《广西人工智能开放创新平台建设工作指引》，同时印发《关于申报建设2025年首批广西人工智能开放创新平台的通知》，全面启动人工智能开放创新平台建设工作。这一举措旨在推动人工智能技术创新和产业融合发展，为广西数字经济...
财联社｜2025-06-16 07:36
工信部推动AI赋能制造业计量 硅基流动获阿里亿元投资
本周硬科技领域投融资动态活跃，多地政府出台支持政策推动科技产业发展。工信部发布制造业计量创新发展意见，强调要加强人工智能、大数据等技术在制造业计量领域的应用，推进计量数字化和网络化服务能力建设。北京市出台时尚产业高质量发展方案，支持开发人工...
财联社｜2025-06-16 07:36
广西打造AI开放创新平台
近日，广西正式发布了《广西人工智能开放创新平台建设工作指引》，同时印发了《关于申报建设2025年首批广西人工智能开放创新平台的通知》，标志着广西人工智能开放创新平台建设工作的全面启动。这一举措旨在推动人工智能技术在广西的深入应用和发展。根据...
界面新闻｜2025-06-16 07:24
AI专家：人工智能会变得更聪明，但永远无法超越人类
这篇文章基于中国科学院外籍院士、图灵奖得主约瑟夫·希发基思的访谈，深入探讨了人工智能（AI）的现状、局限及其对社会的影响。约瑟夫指出，当前社会对AI存在过度乐观的误解，混淆了信息与知识的本质区别。他强调，AI系统虽然能处理海量数据，但缺乏真...
Edu指南｜2025-06-12 14:50
中国人民大学设立人工智能治理研究机构
近日，中国人民大学人工智能治理研究院正式成立，并同期举办了首届人工智能治理学术研讨会。该活动在北京举行，吸引了来自学界、业界和司法界的多位专家学者共同参与。中国人民大学校长林尚立在会上强调了构建以人为本、安全可信的人工智能治理体系的重要性，...
滚动播报｜2025-06-11 22:32
谷歌CEO：现有技术还造不出真正的人工智能
谷歌母公司Alphabet的CEO桑达尔·皮查伊近日接受了彭博社的专访，分享了他对人工智能发展的看法。在采访中，皮查伊坦言，以目前的技术水平还无法实现通用人工智能（AGI）。他认为虽然AI技术持续进步，但谷歌搜索在短期内仍有发展空间。皮查伊...
IT之家｜2025-06-11 22:16
本信息来自互联网，不代表导读网立场，如若转载，请注明出处：http://www.frfey.com/news/74011/
