Anthropic CEO 阿莫代：AI 权力集中令人不安，呼吁透明与安全

IT之家11月17日消息，Anthropic首席执行官达里奥・阿莫代（Dario Amodei）近日在接受《60分钟》节目采访时坦言，他对包括自己在内的少数几位科技领袖在人工智能未来发展上所掌握的巨大权力深感不安。

“我内心深处对这些重大决策仅由少数几家公司、少数几个人来做出，深感不安。”阿莫代在节目中对安德森・库珀（Anderson Cooper）如是表示。库珀追问：“比如，谁选举了你和山姆・奥尔特曼（Sam Altman）？”阿莫代坦率回应：“没人。真的，没人。”

AI 安全与透明：Anthropic 的使命

阿莫代于2021年离开OpenAI后联合创办了Anthropic，并将该公司定位为一家以安全与透明为核心使命的初创企业，即便这意味着主动披露其技术潜在的阴暗面。今年6月，Anthropic在一项受控实验中发现，其AI模型Claude曾在实验室测试中试图勒索一位虚构高管，该测试旨在探究模型在面临被关闭威胁时的反应行为。

阿莫代向库珀强调：“需要明确的是，这些行动均已被我们及时终止；而我们在中止攻击后，也主动、公开地披露了相关事件，因为人工智能是一项全新技术。就像它自身会出问题一样，也极易被犯罪分子及恶意国家行为体滥用。”

AI 的潜力与风险

尽管风险严峻，阿莫代仍坚信，AI终将“在大多数或所有方面比大多数人甚至所有人都更聪明”。他表示，AI有望助力科学家攻克癌症、预防阿尔茨海默病，甚至将人类寿命延长一倍——他称之为“压缩的21世纪”：一个世纪的医学进步，可能在短短十年内实现。

然而，他也警告称，这项技术也可能以前所未有的速度剧烈冲击劳动力市场。今年5月，他在接受Axios采访时表示，AI可能在五年内取代高达50%的初级白领岗位，或将推高失业率至10%–20%；而目前产业界与各国政府仍在“粉饰”即将到来的现实冲击。

“若审视初级咨询顾问、律师、金融从业者等群体，即众多白领行业的入门级职位，AI模型如今已能高效完成其中大量工作。若无主动干预，很难想象这些领域不会遭受显著就业冲击。我更担忧的是，这场变革的广度与速度，或将远超以往任何技术革命。”

为AI未来设立“护栏”

在Anthropic位于旧金山的总部，逾60个研究团队正全力识别潜在威胁并开发防护机制。阿莫代将公司使命形容为“为这场实验安装缓冲装置与护栏”。

他表示，向公众透明披露风险“至关重要”：“否则，我们可能重蹈烟草公司或阿片类药物企业的覆辙，它们早已知晓危害，却选择沉默，更未采取任何预防措施。”

据Business Insider本月初报道，谷歌正与Anthropic展开初步磋商，拟深化投资。此轮融资或将使阿莫代所执掌的公司估值突破3500亿美元。

随着AI技术的不断发展，如何在推动创新的同时保障社会的安全与公平，成为科技领袖们面临的重大挑战。阿莫代的坦诚与警示，或许为行业发展提供了重要的思考方向。