AI（人工知能）を活用した「ChatGPT」や「GPT4」などのサービスが登場したことによって、現在はAIに関する注目が集まっていますが、その一方では「AIの危険性」を指摘する意見も多く出始めています。
米国の大手暗号資産投資企業「Galaxy Digital」のCEOであるマイケル・ノヴォグラッツ氏は『政府は仮想通貨よりも先に”AI”を規制すべき』との考えを語っており、2023年3月29日には「AI開発の一時停止」を求めるオンライン署名活動も開始、この署名運動にはTesla創設者やApple共同創業者も署名しています。
早急に規制すべきは仮想通貨ではなく「AI」
米国の大手暗号資産投資企業Galaxy Digital（ギャラクシーデジタル）のCEOであるMichael Novogratz（マイケル・ノヴォグラッツ）氏は、2023年3月28日に開催された2022年第4四半期の株主向け電話会議の中で「政府は仮想通貨ではなく人工知能（AI）を恐れるべき」との考えを語りました。
現在は「仮想通貨規制」に関する話題が世界中のニュースで取り上げられていますが、ノヴォグラッツ氏は『仮想通貨規制についてばかり話して、AIの規制について何も話していないことにショックを受けた』と述べており、「米国政府の優先順位は完全に逆である」と指摘しています。
ノヴォグラッツ氏は「暗号資産よりも人工知能の方が遥かに大きな脅威をもたらす」と指摘しており、機械学習アルゴリズムのディープラーニングを利用して画像や動画を合成する”ディープフェイク”でアイデンティティ・身元確認などの面で深刻な問題が起きる危険性があると説明しています。
AI技術を活用した画像・映像・音声の生成サービスは続々と増えてきており、本物と区別がつかないほどのAI生成画像なども登場してきていますが、ノヴォグラッツ氏はそのようなAI技術は企業・個人・社会全体に深刻な影響を及ぼす可能性があると警告しており、『もうすぐ”マイケル・ノヴォグラッツの偽物”が出回るだろう。できれば髪の毛がある方がいい』と冗談まじりに語った上で、『そのような世界でどうやって身元を証明すればいいのか？』と指摘しています。
ノヴォグラッツ氏関連の過去記事はこちら
「AI開発の一時停止」求める署名活動も
人工知能（AI）の分野に関しては、OpenAIが提供する「ChatGPT」や3月にリリースされたばかりの「GPT-4」などが注目を集めていますが、2023年3月29日には「人工知能を開発する全ての研究機関に対して”AI開発の一時停止”を求めるオンライン署名活動」が開始されています。
「GPT4を超えるAI開発の一時停止」求める
米国の非営利団体「Future of Life Institute」が公開している書面では『AI開発競争が制御できなくなっている』と指摘されており、具体的には「GPT-4を超えるAIシステムのトレーニングを少なくとも6ヶ月間停止すること」が求められています。
この書面の冒頭には『人類に匹敵する知能を持つAIシステムが社会と人類に重大なリスクをもたらす可能性があることは、広範な研究によって示されており、トップレベルのAIラボも認めている』と記されており、『高度なAIは地球上の生命の歴史に大きな変化をもたらす可能性があるため、相応の注意とリソースをもって計画・管理されるべきだ』と説明されています。
【公開された書面の一部】
現代のAIシステムは一般的なタスクにおいて人間と同等の成績を出すようになってきているため、私たちは自問しなければなりません。私たちは自分たちの情報網を機械によるプロパガンダや虚偽情報で溢れさせるべきなのでしょうか？充実した仕事を含むすべての仕事を自動化するべきなのでしょうか？私たちは”非人間の知性”を発展させるべきでしょうか？それらは、私たちの数を上回り、私たちを超越し、時には私たちを取って代わる可能性があります。私たちは文明のコントロールを失うリスクを冒すべきでしょうか？こうした決定は、選挙で選ばれたリーダーではないテック業界の専門家だけに委ねるべきではありません。強力なAIシステムは、その影響がポジティブであり、リスクが管理可能であると確信できる場合にのみ開発すべきです。
その確信は十分に正当化され、システムの潜在的な影響の大きさに応じて増大する必要があります。OpenAIは最近、人工知能に関する声明を発表し『将来のシステムのトレーニングを開始する前に、独立した審査を受けることが重要になる可能性があり、最も先進的な取り組みでは、新しいモデルを作成するために使用されるコンピューティングの成長率を制限することに合意する必要がある』と述べています。
私たちはこれに同意します。今こそがその重要なポイントなのです。
AI開発停止期間には何が実施される？
今回の書面では『AIラボと専門家はAI開発の休止期間を利用して、独立した外部の専門家によって厳格に監査・監督された”高度なAIの設計と開発に関する一連の共有安全プロトコル”を共同で開発・実施すべきである』と説明されており、『これらのプロトコルは、それを遵守するシステムが合理的な疑いを超えて安全であることを保証するものでなければならない』とも説明されています。
また『この一時停止は、公的かつ検証可能なものでなければならず、すべての主要な関係者を含むものでなければならない。このような一時停止が迅速に実施できない場合は、政府が介入してモラトリアムを実施する必要がある』とも説明されています。
具体的には『AI開発者は政策立案者と協力して”強固なAIガバナンスシステム”を早急に開発しなければならない』と説明されており、最低限必要なものとしては以下のようなものが挙げられています。
- AIに特化した新しい規制当局
- 高性能なAIシステムや大規模な計算能力の監視と追跡
- 本物と合成を区別して、モデルの流出を追跡するための認証システム
- 堅牢な監査・認定エコシステム
- AIが引き起こした被害に対する賠償責任
- AIの安全性に関する技術研究のための充実した公的資金
- AIが引き起こす経済的・政治的混乱に対処するためのリソース
Tesla創設者やApple共同創業者も署名
今回のオンライン署名活動には、記事執筆時点で1,377人が署名しており、署名者の中にはTesla（テスラ）の創設者であるイーロン・マスク氏や、Apple（アップル）の共同創業者であるスティーブ・ウォズニアック氏なども含まれています。
人工知能（AI）におけるブロックチェーンの有用性
マイケル・ノヴォグラッツ氏や各業界の著名人たちは人工知能（AI）の技術に対する懸念を語っていますが、ブロックチェーンを基盤としたアプリケーションはAIがもたらす問題を軽減するために重要な役割を果たすとも期待されています。
ブロックチェーン技術を活用すれば分散化された形でデータを安全に保存・共有することができるため、AIアルゴリズムの透明性・説明責任・信頼性を確保するのに役立ち、偏見・プライバシー・AI悪用の可能性にまつわる懸念に対処することができると期待されています。
また、ブロックチェーン業界で利用されている契約を自動執行する技術「スマートコントラクト」を活用すれば、人間が介入する必要性を減らして複雑なタスクを自動化することができるため、人為的なエラーのリスクを最小限に抑えることができるとも期待されています。
ブロックチェーンや暗号資産は「データ管理・データの信頼性確保・情報収集に対する報酬」などといった複数の面でAI開発に役立てることができると期待されているため、これらの技術は今後のAI開発や規制の面でさらに重要な役割を担っていくことになると予想されています。
