近日，人工智能领域传来重要消息。被誉为"AI教父"的图灵奖得主约书亚·本吉奥宣布成立非营利组织LawZero，致力于开发新型人工智能系统"Scientist AI"。这一举措旨在应对当前AI快速发展带来的安全与伦理挑战。
LawZero获得了3000万美元的初始资金支持，资助方包括未来生命研究所、Skype联合创始人贾恩·塔林以及谷歌前CEO施密特创立的科学研究所等。该组织强调独立性，拒绝商业资本干预，专注于开发"诚实"的AI系统，解决现有AI模型可能出现的欺骗行为、自我保护和不服从关机指令等问题。
"Scientist AI"的设计理念与主流生成式AI不同。它不追求模仿人类行为，而是通过贝叶斯推理提供对世界的解释和预测，强调对不确定性的认识和透明的推理过程。本吉奥表示，这种系统将能识别和预测自主AI系统可能导致的有害行为，并在必要时进行干预。
作为深度学习领域的先驱，本吉奥长期关注AI安全问题。他警告当前行业过于注重能力提升而忽视安全研究，可能导致灾难性后果。他主张开发不具备自主行动能力的AI系统，专注于提供可靠的世界解释和预测。
值得注意的是，对AI风险的担忧在科技界并非个例。特斯拉CEO马斯克曾预测AI有20%概率导致文明灭绝，另一位图灵奖得主辛顿也将相关风险预测提升至10%-20%。本吉奥希望通过LawZero项目引发全球对AI安全问题的重视，确保技术发展不会威胁人类。
中国AI进步获国际高度评价
当地时间6月18日，俄罗斯总统普京在圣彼得堡国际经济论坛期间，与全球主要通讯社负责人进行了会面。在会谈中，普京特别提到了中国在人工智能领域取得的显著成就，并表示这些成就让他感到"惊讶和高兴"。普京的这番表态，是在第28届圣彼得堡国际经济论坛...
界面新闻｜2025-06-20 14:00
上海库帕思科技CTO王长冕：西岸人工智能企业加速行业融合
6月10日，一场以“2025活力西岸：从城市焕新到人居范本”为主题的对话活动在上海西岸智塔成功举办。本次活动由上海市徐汇区营商服务中心指导，每日经济新闻、龙华街道办事处、上海西岸开发（集团）有限公司共同主办。徐汇区营商服务中心主任徐晖、龙华...
每日经济新闻｜2025-06-16 08:48
广西打造智能科技新平台
近日，广西壮族自治区正式发布《广西人工智能开放创新平台建设工作指引》，同时印发《关于申报建设2025年首批广西人工智能开放创新平台的通知》，全面启动人工智能开放创新平台建设工作。这一举措旨在推动人工智能技术创新和产业融合发展，为广西数字经济...
财联社｜2025-06-16 07:36
工信部推动AI赋能制造业计量 硅基流动获阿里亿元投资
本周硬科技领域投融资动态活跃，多地政府出台支持政策推动科技产业发展。工信部发布制造业计量创新发展意见，强调要加强人工智能、大数据等技术在制造业计量领域的应用，推进计量数字化和网络化服务能力建设。北京市出台时尚产业高质量发展方案，支持开发人工...
财联社｜2025-06-16 07:36
广西打造AI开放创新平台
近日，广西正式发布了《广西人工智能开放创新平台建设工作指引》，同时印发了《关于申报建设2025年首批广西人工智能开放创新平台的通知》，标志着广西人工智能开放创新平台建设工作的全面启动。这一举措旨在推动人工智能技术在广西的深入应用和发展。根据...
界面新闻｜2025-06-16 07:24
AI专家：人工智能会变得更聪明，但永远无法超越人类
这篇文章基于中国科学院外籍院士、图灵奖得主约瑟夫·希发基思的访谈，深入探讨了人工智能（AI）的现状、局限及其对社会的影响。约瑟夫指出，当前社会对AI存在过度乐观的误解，混淆了信息与知识的本质区别。他强调，AI系统虽然能处理海量数据，但缺乏真...
Edu指南｜2025-06-12 14:50
中国人民大学设立人工智能治理研究机构
近日，中国人民大学人工智能治理研究院正式成立，并同期举办了首届人工智能治理学术研讨会。该活动在北京举行，吸引了来自学界、业界和司法界的多位专家学者共同参与。中国人民大学校长林尚立在会上强调了构建以人为本、安全可信的人工智能治理体系的重要性，...
滚动播报｜2025-06-11 22:32
谷歌CEO：现有技术还造不出真正的人工智能
谷歌母公司Alphabet的CEO桑达尔·皮查伊近日接受了彭博社的专访，分享了他对人工智能发展的看法。在采访中，皮查伊坦言，以目前的技术水平还无法实现通用人工智能（AGI）。他认为虽然AI技术持续进步，但谷歌搜索在短期内仍有发展空间。皮查伊...
IT之家｜2025-06-11 22:16
中国科学家首次发现AI可自主产生类人认知
这篇研究探讨了一个关于人工智能发展的重要问题：大语言模型是否能像人类一样理解物体的概念。长期以来，人类对物体的认知不仅包括物理特征识别，还涉及功能、情感和文化层面的理解。随着ChatGPT等大模型的兴起，科学家开始关注这些AI系统是否具备类...
滚动播报｜2025-06-11 21:56
华为任正非：AI或成人类最后技术革命，核聚变或成终极能源
近日，华为首席执行官任正非在深圳总部接受了媒体采访，就当前科技领域的热点话题发表了自己的见解。任正非认为，人工智能技术可能是人类社会面临的最后一次重大技术革命，其影响力将延续数十年甚至数百年之久。在谈到技术发展前景时，任正非特别提到了核聚变...
财联社｜2025-06-11 11:48
中国制造业AI应用加速 本土模型崛起
近日，华为首席执行官任正非在深圳总部接受媒体采访时，就人工智能发展现状和未来趋势发表了自己的见解。他认为，当前人工智能算法的核心驱动力并非来自IT技术人员，而是来自各行各业的专业人才。任正非特别指出，电力、基建、煤炭、医药等领域的专家才是真...
财联社｜2025-06-11 11:40
苏州征集AI技术备战"苏超" 体育科技新赛道引关注
苏州市人工智能行业协会近期启动了一项创新计划，旨在通过人工智能技术提升苏州足球队的训练水平和比赛表现。该计划面向2025年江苏省城市足球联赛，重点征集三大领域的AI解决方案：智能训练辅助、运动员健康管理和比赛战术优化。具体包括运动姿态分析系...
财联社｜2025-06-11 11:32
本信息来自互联网，不代表导读网立场，如若转载，请注明出处：http://www.frfey.com/news/73662/
