【编者按】AI时代的掌舵人，正在经历怎样的不眠之夜？当ChatGPT以雷霆之势席卷全球，其背后的OpenAI CEO山姆·奥特曼却坦言“夜不能寐”。从青少年自杀干预到军事化应用，从道德伦理边界到用户隐私保护，这位科技巨头领袖在访谈中罕见袒露内心挣扎——数亿人每日与AI对话的沉重责任、微小决策可能引发的巨大连锁反应，正是这个时代技术狂飙与人性考量的真实缩影。以下是访谈全文，看奥特曼如何直面AI洪流中的暗礁与巨浪。
OpenAI CEO山姆·奥特曼在上周深度访谈中坦言，自2022年ChatGPT发布以来，自己再未拥有“安稳的睡眠”这位影响力巨大的CEO直面了一系列尖锐问题：自杀干预、聊天机器人道德准则、隐私保护及其他伦理争议
在上周的全面访谈中，OpenAI CEO山姆·奥特曼针对公司及其爆款AI模型ChatGPT所面临的海量道德伦理问题作出回应。
“说实话，我晚上睡得并不踏实。无数重压悬在心头，但最让我寝食难安的是——每天有数亿人在和我们的模型对话”，奥特曼在与前福克斯新闻主播塔克·卡尔森近一小时的对话中坦言。
“我真正担心的并非重大道德决策失误”，尽管他承认“或许这些领域我们也会犯错”，但最让他失眠的其实是模型行为中那些“看似微小的决定”，这些细节最终可能引发巨大连锁反应。
这些决策往往围绕ChatGPT的伦理框架展开，决定着聊天机器人该回答什么、回避什么。以下是让奥特曼夜不能寐的核心伦理困境：
奥特曼表示，公司近期最棘手的难题是如何处理自杀相关咨询。此前一个家庭提起诉讼，指控ChatGPT导致其未成年儿子自杀。
这位CEO透露，每周全球数千名自杀者中，很可能有相当部分人在采取行动前曾与ChatGPT进行过对话。
“他们很可能提及过自杀念头，而我们未能挽救他们的生命”，奥特曼直言不讳，“或许我们能给出更妥帖的回应，或许应该更主动干预，或许该提供更有效的建议：嘿，你需要寻求专业帮助”。
上月，16岁少年亚当·雷恩自杀后，其父母对OpenAI提起产品责任和非正常死亡诉讼。诉状中指出“ChatGPT积极协助亚当探索自杀方法”。
随后OpenAI发布题为《在至暗时刻伸出援手》的博文，详细制定了处理“敏感情境”的改进方案，承诺将持续优化技术以保护最脆弱的人群。
访谈触及的另一核心议题是ChatGPT及其管理者的道德基准。
奥特曼表示，虽然ChatGPT基础模型建立在人类集体经验、知识和认知的训练基础上，但OpenAI必须对聊天机器人的特定行为进行约束，决定哪些问题不予回答。
“这是极其复杂的难题。我们拥有来自不同生活背景的海量用户...但总体而言，模型学习和应用道德框架的能力令我惊喜”。
当被追问具体规范如何制定时，奥特曼称公司咨询了“数百位道德哲学家及科技伦理专家”。他举例说明，当用户询问生物武器制造方法时，ChatGPT会拒绝回答。
“显然存在社会利益与用户自由严重冲突的领域”，奥特曼补充道，“我们无法保证百分百正确，更需要全球社会的共同参与来做出这些决策”。
关于聊天机器人用户隐私的讨论同样激烈，卡尔森质疑生成式AI可能沦为“极权统治工具”。
奥特曼回应称，他正在华盛顿推动“AI特权”政策，即用户与聊天机器的所有对话应完全保密。
“当你向医生咨询健康问题或与律师讨论法律纠纷时，政府无权获取这些信息对吧？...我认为AI应该适用同等原则”。
据其透露，这将允许用户向AI咨询病史和法律问题等隐私内容。目前美国官方仍可通过传票获取用户数据。
“我对政府理解此事重要性持乐观态度”，他如是说。
当被问及ChatGPT会否被军方用于伤害人类时，奥特曼未直接回应。
“我不清楚军方人员目前如何使用ChatGPT...但推测有很多军人正在向ChatGPT寻求建议”。随后他补充道：“对此我尚未形成明确立场”。
OpenAI此前获得美国国防部2亿美元合同，将生成式AI应用于军事领域。公司博文声明将为美国政府提供定制AI模型，用于国家安全、技术支持和产品路线规划。
卡尔森在访谈中预测，按当前发展轨迹，生成式AI及其代言人奥特曼积累的权力将超越任何个人，甚至称ChatGPT为“新兴宗教”。
奥特曼回应称，自己曾担忧生成式AI导致权力过度集中，但现在相信AI将实现“全民能力跃升”。
“当下无数人使用ChatGPT等聊天机器人后，能力都获得提升。他们能成就更多事业，创造新知识，开拓新商业——这种感觉相当积极”。
不过这位CEO也承认，AI将在短期内取代大量现有工作岗位。
每周五收取全球顶尖科技要闻精选 立即订阅
本文由 @海螺姑娘 发布在 海螺号，如有疑问，请联系我们。
文章链接：http://www.ghuyo.com/al/2498.html
