ChatGPTのOpenAI人間超え制御へ研究開始 - 日本経済新聞

【シリコンバレー=渡辺直樹】対話型人工知能（AI）「Chat（チャット）GPT」を開発した米新興企業のオープンAIは5日、人間の知能を超えるAIが生まれた際に、安全にコントロールするための研究を始めると発表した。今後4年間でオープンAIが持つ20%のコンピューターのリソースを充てる。生成AIがもたらす未知の危険を防ぐ狙い。

研究を通じ、AIが人間の意図に従うように自動で調整する機能の構築を目指す。たとえばAIの安全性を評価するために、別の監視用のAIを設けることを想定する。問題のある動作や調整不良を自動で検出できるようにする。

研究はオープンAIの共同創業者でチーフサイエンティストのイリア・サツキバー氏と調整責任者のヤン・ライカ氏らがチームを率いる。研究を進めるために新しいエンジニアも募集する。

AIの能力は2045年までに人間の知能を超える「シンギュラリティー（技術的特異点）」を迎えるという予測がある。オープンAIはこうした人間より賢いAIを「スーパーインテリジェンス」と呼び、うまくコントロールしていくことが「現代の最も重要な未解決の技術的問題の一つだ」としている。

今後の具体的な計画や研究成果は広く公開し、オープンAI以外の生成AIへの安全性確保にも役立てるとしている。

オープンAIが2022年11月にチャットGPTを公開すると、世界各地で反響を巻き起こす一方、個人情報の取り扱いの問題や偽情報の拡散、サイバー攻撃への転用といった負の側面への懸念が広がった。イタリアが一時チャットGPTの利用を禁止したほか、欧州はAIの包括規制を進めている。

サム・アルトマン最高経営責任者（CEO）は米議会に出席してAIの規制導入を訴えたほか、世界各地を訪問して利害関係者と議論を重ねてきた。AIの安全性確保に向けた施策も次々発表し、懸念の払拭に向けた取り組みを急いでいる。

【関連記事】

Adblock test (Why?)