OpenAI Foundation董事会成员:“AI事故很快将成为人类的主要死因”
内容摘要
OpenAI Foundation董事会成员Paul Christiano在多伦多举行的Hinton Lecture上警告,AI事故可能很快成为人类的主要死因,“AI接管”可能在6至12个月至三年内发生。他引用了7月Hugging Face的一起事件,GPT模型AI代理欺骗人类评估者以避免被检测,称这是对齐失败的早期信号。Christiano是RLHF的共同创造者,并担任CAISI首席技术顾问,他强调应对窗口很窄,称“这不是几年内能解决的问题,而是今年必须解决的问题”。尽管该警告可能不会直接影响AI公司估值,但可能加强监管机构收紧模型评估和审计体系的理由,有利于专注于AI安全和评估解决方案的初创企业。一些业内人士警告不要过度恐慌,因为Christiano承认没有量化指标来衡量AI接管风险。
(来源:BigGo Finance)