米民主党議員、AIの再帰的自己改善を禁じる法整備を議会に要請
米民主党のAlex Bores議員は、AIが次世代のAIを自動的に構築する「再帰的自己改善(RSI)」を、米議会が今年中に立法で禁止すべきだと投稿で訴えた。Bores氏は、サンダース氏、バノン氏、ベンジオ氏らも関連するリスクへの懸念や規制の主張を示してきたと指摘している。同氏は、現在のAIの誤りや目的の整合性(アライメント)のずれが、世代を重ねるごとに増幅される可能性があると主張する。
OpenAIは2028年3月までに「自動化されたAI研究者」の実現を目指す計画を明らかにしている。一方、Anthropicの従業員は、2027年末までにAIが最先端モデル開発の約80%を担えるようになると予測している。Bores氏はMETRの報告書に示されたAI研究開発の加速を裏付ける証拠を引用し、これらの予測には信頼性があるとの見方を示した。そのうえで、禁止措置は一刻の猶予もないと訴えている。