アントロピック、元OpenAIの安全責任者を新チームリーダーとして採用

今月初めにOpenAIを辞職し、同社のAI安全性への取り組みを公に批判した一流AI研究者のジャン・ライケ氏が、OpenAIのライバルであるアンスロピックに加わり、新たな「スーパーアライメント」チームを率いている。

Xの投稿で、ライケ氏は、アントロピックのチームがAIの安全性とセキュリティのさまざまな側面、具体的には「スケーラブルな監視」、「弱から強への一般化」、自動調整の研究に注力すると述べた。

事情に詳しい情報筋がTechCrunchに語ったところによると、ライケ氏はアントロピックの最高科学責任者であるジャレッド・カプラン氏に直接報告することになり、現在スケーラブルな監視（大規模なAIの行動を予測可能かつ望ましい方法で制御する技術）に取り組んでいるアントロピックの研究者らは、ライケ氏のチームが始動するにつれ、ライケ氏に報告するようになるという。

多くの点で、ライケ氏のチームの使命は、最近解散したOpenAIのスーパーアライメントチームと似ているように思われます。ライケ氏が共同リーダーを務めたスーパーアライメントチームは、今後4年間で超知能AIの制御における中核的な技術的課題を解決するという野心的な目標を掲げていましたが、OpenAIのリーダーシップによってしばしば足かせをはめられていました。

Anthropic は、OpenAI よりも安全性を重視する立場を確立しようと努めてきました。

アンスロピックのCEO、ダリオ・アモデイ氏はかつてOpenAIの研究担当副社長を務めていましたが、同社の方向性、特に商業重視の強化をめぐる意見の相違からOpenAIと袂を分かったと報じられています。アモデイ氏は、OpenAIの元ポリシーリーダーであるジャック・クラーク氏を含む、元OpenAI社員数名を引き連れてアンスロピックを設立しました。

トピック

バイオを見る