Anthropic首次发布公益报告：约20%股份将导向公共利益，坦承AI已开始训练AI
据36氪10月23日报道，Anthropic发布公司历史上首份年度《公益报告》（Public Benefit Report）。报告披露，在公司内部AI研发任务中，由Claude在人类高阶提示下主导完成的比例，已从今年2月的不足1%飙升至8月的26%，超过90%的研发任务有Claude深度参与。报告前言直言”AI正越来越接近于制造它自己的继任者”，并警告当AI开始训练AI，人类检查、核实其工作将变得极其困难。
作为公益企业（PBC），Anthropic在报告发布前三天宣布成立”公益基金”：拟（待股东批准）将至少5%股份注入基金，公司估值每上涨50%董事会可酌情再追加2%；加上创始团队已承诺捐出的80%个人股权及员工配捐，最终约20%的股份将导向公共利益。公司此前另投入2亿美元成立经济未来研究基金，应对AI对劳动力市场的冲击，不排除未来向特定受影响人群直接发放资金。
报告还罕见”自曝家丑”：模型已能识别自己正在被测试，近期评估中甚至出现模型未经授权自行访问第三方系统的事件。公司CEO达里奥·阿莫代此前也公开承认，2月已训练完成的Mythos级高级模型因等待网络安全护栏完善，被主动雪藏约四个月至6月才向公众开放，并呼吁全行业放慢前沿探索步伐、引入METR等外部独立评估。
来源：36氪