[ITmedia News] Google DeepMind、AGIの影響を議論する「DeepMind Institute」設立 「AGIに近づいている」

　米Google DeepMindは9月16日（現地時間）、AGI（Artificial General Intelligence、人間の脳が持つあらゆる認知能力を示すシステム。日本では「汎用人工知能」とも）が社会にもたらす影響を分野横断で議論するプラットフォーム「DeepMind Institute」（DMI）を立ち上げたと発表した。

DMI告知エッセイ冒頭

　ディレクターは、同社共同創業者で会長、米Alphabetのチーフサイエンティストでもあるデミス・ハサビス氏、共同創業者兼チーフAGIサイエンティストのシェーン・レッグ氏、Googleで研究・技術・社会分野を統括するジェームズ・マニカ氏の3人が務める。

　設立を告知するエッセイで、現在のAIの能力とイノベーションの速さから「AGIに近づいている」との認識を示した。AIは今も基本的なタスクで失敗することがあり、完全なAGIと呼ぶには一貫性と創造性が足りないとしつつ、「こうしたギャップは間もなく埋まると予想している」という。

　AGIは病気の解明や治療、クリーンエネルギーの開発、経済的繁栄への新たな道を開き、科学的発見の「新たな黄金時代」をもたらし得ると期待する一方、リスクにも言及した。能力の高まったAIがサイバーセキュリティやバイオリスクに与える影響はすでに表れており、将来の自己改善するシステムでは制御を失う可能性もあるとして、「AGIを安全に構築し、その恩恵がリスクを大きく上回るようにするための重要な局面だ」としている。

　DMIは、Google DeepMindやGoogle、社外の研究者が、AGIのある世界についての考えをエッセイとして公開・議論する場という位置付け。執筆者の見解は必ずしも一致せず、最前線で新たな情報が出てくれば考えを変えることもあるとしており、掲載内容はGoogleの公式見解ではないと明記している。告知エッセイでは「AGIをどう責任を持って開発し社会に展開するか、すべての答えを持つ者はおらず、技術者だけが答えを出すべきでもない」とし、芸術や人文学、政府を含む社会全体で議論する必要があると訴えた。

　DMIのWebサイトには、現在5本のエッセイが掲載されている。AIの思考の連鎖（CoT）を監視できる状態を保つべきだと論じた「The case for reasoning transparency」、AGIによる経済的混乱に備える11の政策を評価した「Economic policy for AGI」、20世紀の教訓から目指すべき社会像を考える「Principles for a new utopianism」、ハサビス氏がXに投稿したフロンティアAIの評価枠組みに関する論考などが並ぶ。

　ハサビス氏はXで「20年以上にわたり、レッグ氏とAGIが経済や科学、社会に与える影響を議論してきた」と述べ、DMIが「次の一歩を正しく踏み出すために必要な議論を促すことを期待している」としている。