OpenAIの最高経営責任者（CEO）サム・アルトマン氏は本日、人工知能（AI）の将来について懸念を表明し、意図せぬ結果を招くため規制が必要だと警告した。
上院司法委員会でのアルトマン氏の出席には警戒のトーンが含まれており、より多くの誤った情報、選挙介入、コンピューターが人間の従業員を乗っ取り、これらの人工存在が人間そのものよりも賢くなるという、泥沼にはまり込む可能性のある未来の不吉な予感を示した。
ナード・ウォレットによると、AIに対する懸念はほぼ常に存在しているが、アルトマン氏自身のAI研究所を含むハイテク企業が次のフロンティアに先んじるための研究に数十億ドルを費やしていることで、最近では懸念がさらに悪化しているという。 同紙によると、AI分野での基礎的な業績からAIの「ゴッドファーザー」とも呼ばれたジェフリー・ヒントン氏でさえGoogleを辞め、「悪者が（AIを）悪いことに利用するのを防ぐ」能力について警告しているという。 ニューヨーク・タイムズ。
OpenAI が ChatGPT の親会社であるアルトマン氏も、初めて国会議事堂を訪れた際に同様の感想を述べました。
アルトマン氏は上院議員らに対し、「この技術がうまくいかない場合、かなり間違った方向に進む可能性があると思う」と語った。 「そして私たちはそのことについて声を上げていきたいと思っています。私たちは政府と協力してそのようなことが起こらないようにしていきたいと思っています。」
ウィン・マクナミー/ゲッティ
米国上院議員兼委員会委員長のリチャード・ブルメンソール氏は、「人工知能には、その計り知れない可能性と落とし穴に対処するためのルールと安全策が早急に必要である」と述べた。
民主党のエイミー・クロブシャー上院議員から、今後の選挙と、候補者、投票所、選挙規則に関する誤った情報についての計画について尋ねられたアルトマン氏は、潜在的な影響について「非常に懸念している」と述べた。
「これはソーシャルメディアではない。これは違う」と彼は言った。 「したがって、私たちが必要とする応答は異なります。これは、ユーザーが以前よりも効率的にコンテンツを生成するために使用しているツールです。ユーザーはそれを変更でき、その精度をテストでき、気に入らない場合は、別のバージョンを入手できます。」
AI について著書のあるノースウェスタン大学の法学教授、ジョン・マクギニス氏は次のように述べています。 ニューズウィーク 電話で、彼は技術者の懸念を共有するのをためらっていると伝えた。 彼はヒントンの意見に同意し、間違った人の手に渡ったツールは問題を引き起こす可能性があるが、AI 自体が暴走して悪意を引き起こす可能性はないと考えている。
しかし同氏は、規制がAIの速度を低下させることについては「一般的に非常に懐疑的」であり、AIは例えば気候変動などの脅威に対処する際には「実際に非常に役立つ」と述べた。
「さらに、私たちはこれを地政学的意味で理解する必要があると思います」と彼は言った。 「ここでAIの速度を低下させるものは、中国のような場所でもAIの速度を低下させることはありません。実際のところ、AIは…国家安全保障と非常に密接に絡み合っており、米国はAIのリーダーであり続ける必要があります。」
「それは、たとえそれがAIでなかったとしても、他の活動を規制するのと同じように、AIが行っている一部の機能を規制できないという意味ではなく、それが私には正しいように思えます。しかし、一般的に、私はそれについてはほとんど心配していません。」
誤った情報についてマクギニス氏は、誤った情報は我が国の建国当初から存在しており、その仮定のシナリオでどのような誤った情報が伴う可能性があるかを政府に決定させることには「本当の危険」があると述べた。
先月、グーグルとアルファベットのCEO、サンダー・ピチャイ氏はこう語った。 60分 「あらゆる企業のあらゆる製品」がAIの急速な発展の影響を受けるだろうということだ。 アルトマンやヒントンと同様に、彼も起こり得る影響について不安を抱いている。
Google には Bard という独自のチャットボットがあります。
「これはあらゆる企業のあらゆる製品に影響を与えるだろう」とピチャイ氏は語った。 「たとえば、あなたは放射線科医になるかもしれません。今から 5 ～ 10 年後を考えると、AI の協力者がいるでしょう。あなたは朝に来て、100 のことを経験しなければならないとしましょう。 「これらは、最初に検討する必要がある最も深刻なケースです」と言うかもしれません。」
マクギニス氏らが表明したもう 1 つの大きな懸念は、規制に関する意思決定を行っている議会の人々が高齢すぎるか、テクノロジーを理解するには十分な知識がないことです。
ピュー・リサーチ・センターによると、今回の第118回議会の米国下院は例年より若くなっているが、上院は議院の平均年齢が65歳と高齢化している。
マクギニス氏は、例えば既存の政府機関がAIを利用して差別を根絶することができると述べ、それは「より広範で束縛されていないAI規制とは異なる」とし、それは「災難」になるだろうと述べた。
「（上院議員の）ほとんどはこうしたことを研究していない」とマクギニス氏は語った。 「だから、彼らが規制を設けているのは本当に問題だと思う。『まあ、規制するためにどこかの機関に任せよう』という考えは、もちろん彼らは書くことができなかったからだと思う」非常に詳しいルール。
「しかし、エージェンシー自体がこの点でひどい問題を抱えており、次の AI 開発のスピードを上げて常に先頭に立っているのだと思います。結局のところ、莫大な利益が得られるのです。エージェンシーには常に問題があり、その分野で最も優秀な人材が得られないのです」彼らは政府からの給与をもらっていないが、これはステロイドの問題のようなものになるだろう。」
