【编者按】在人工智能浪潮席卷全球的当下，OpenAI的聊天机器人ChatGPT等工具正面临前所未有的伦理与安全挑战。近期，因部分用户出现心理健康问题甚至引发极端事件，OpenAI再度被推上风口浪尖。这家明星企业紧急重启“风险应对负责人”招聘，试图修补安全防线，却难掩其内部长期存在的“发展优先于安全”的争议。从团队动荡到产品隐患，从青少年保护到成瘾机制质疑，AI狂欢背后的阴影正逐渐浮现。当科技巨头在创新与责任的钢丝上摇摆，我们更需冷静思考：技术狂奔的时代，谁来守护人性的边界？
随着OpenAI面临“ChatGPT等AI聊天机器人可能引发心理健康风险”的批评，该公司再次招募负责人，以应对潜在的AI风险。
当地时间28日，据美国IT媒体TechCrunch报道，OpenAI首席执行官萨姆·阿尔特曼在社交媒体X上宣布，正在招聘目前空缺的“风险应对负责人”一职。阿尔特曼强调，当今时代需要具备理解AI模型能力如何被滥用的洞察力，并能精准评估此类风险。他将这一职位描述为“关键时期的核心角色”，并指出：“这将是压力巨大的工作，上任即需直面深层挑战。”
此次招聘被视为对部分ChatGPT用户家属诉讼的回应——这些用户因产生妄想而做出极端选择。此前，OpenAI曾设立应对即时AI风险的“风险应对”团队和处理长期风险的“超级对齐”团队。
然而，去年5月，阿尔特曼及其他高管为加速发布GPT-4o，要求团队大幅缩减安全检查，引发内部强烈反弹。此后一年间，风险应对团队负责人因调职或离职更迭三次，职位持续空缺。而由联合创始人伊利亚·苏茨克沃领衔的超级对齐团队，也在其离职后于去年5月实质解散，成员被并入其他部门。
安全验证不足的GPT-4o已引发争议，被指导致包括青少年在内的部分用户出现心理健康问题。为此，OpenAI近期引入年龄预测模型，自动对识别为未成年人的用户强制启用“18岁以下”保护模式。公司还新增功能，允许用户调节聊天机器人的“友善度”和“热情度”——此前有观点认为，AI过度附和可能导致用户依赖成瘾。
本文由路知网原创发布，未经许可，不得转载！
本文链接：https://m.yrowe.com/nw/88670.html
