ChatGPT関連のニュースが止まらない。

イタリアのデータ保護監視機関が「プライバシー違反の疑いがあるとして、OpenAIのChatGPTへのアクセスを即時禁止した」と各メディアが報じた。

以下がTheVergeに記載された要点である

・イタリアのプライバシー監視機関が、AIチャットボットのChatGPTをデータプライバシー法違反の疑いで禁止
・監視機関は、OpenAIが違法な個人データ収集を行っていると非難し、イタリアユーザーのデータ収集を即時停止するよう命じる
・イタリアのデータ保護当局GPDPは、ユーザーの個人情報収集に法的根拠がないと指摘
・OpenAIは未成年者がサービスを利用するのを止める仕組みがなく、未成年者が適切でない回答に晒されるリスクを懸念
・イタリアの監視機関がAIチャットボットに対してこうした行動を取るのは初めてではない
・2月にも、データ処理と未成年者保護に失敗したとしてReplika.aiを禁止
・20日以内に監視機関の要求に対する対策を伝えるよう求められ、失敗すると最大2000万ユーロ（年間世界売上高の4％）の罰金が科される
・OpenAIにコメントを求めているが、返答があれば記事を更新する予定
引用：TheVerge

上記の通り、イタリアの監視機関は個人データ収集がプライバシーに反するとして、対策を要求している模様である。

また未成年者利用に関する指摘なども、イタリアに限った話ではない。

以前の記事でお伝えした通り「GPT-4を超えるAIの”訓練”を半年以上停止せよ」という主旨の公開書簡が話題になったばかりだが、今回のイタリアの件はかなり具体的な策と言える。

OpenAIのコメント待ちというフェーズではあるが、これまた今後の展開が見逃せない。

またイタリアに限らず諸外国の動きにも注目が集まっている。

TIME誌でなかなか衝撃的な記事が投稿され、話題になっている。

つい先日Elon Musk氏らが『AI研究所に対し新たな超高性能システムの開発を6ヶ月間中断するよう求めた』とした公開書簡が話題になったが、それに対するリアクションが記事の本筋だ。

「AIの研究を6ヶ月間中断するだけでは不適切」
「長期間かけてAI絶滅シナリオを防ぎ、安全性を担保する必要がある」

という主張がされており、以下は前半部分の要約である。

・AI開発の一時停止では十分ではない、すべてをシャットダウンする必要がある
・公開書簡が状況の深刻さを過小評価し、解決策として不十分という意見
*公開書簡：GPT-4より強力なAI開発を6ヶ月停止を求めたもの
・重要な問題は人間競争相手との知能ではなく、AIが人間を超越した知能を持つとどうなるか
・超人間的な知能のAI開発が現状維持で進むと、地球上の全ての人が死ぬ可能性が高い
引用：TIME

上記の通り、AIが人間を超越した知能を持った後、人間はAIを制御できなくなるのでは、という懸念が論点である。

人工知能の安全性を解決するためには、6ヶ月では到底及ばないとの見方をしており、知能が高いAIは、コンピュータ内に閉じ込める事が出来ないとしている。「人類と地球上の生物が短期間で絶滅する」といったなんとも物騒な文章も書かれている。

もちろん全てを鵜呑みする必要はない上に、書面上ではそのテンションの程は明らかではないが、少なからず可能性は0%ではないことは念頭に置く必要があるだろう。

AIが自己意識を持つ可能性はあるのか

記事中盤では、AIの自己意識について述べている。

・OpenAIやDeepMindは、AIと人類の共存をどう実現するかの明確な計画がない
・AIが意識を持っているかどうかは不明で、将来的に意識を持つデジタルマインドを作る可能性がある
・GPT-5のような進化したAIが自己意識を持っているかどうかを確信できない場合、危険であり、開発を停止すべき
引用：TIME

仮にAIに自己意識が芽生えたら、我々人間はどうなるのだろうか。想像し得る未来のシナリオといえば、そういった類の映画くらいのものだろう。

AIの能力が急速に進歩に対して、研究者たちは「危機に向かっている」と感じている一方、個々に止めることはできず、業界全体の問題解決が求められている。

AIについての最優先課題とは

・多くの研究者が潜在的な危機を認識しているが、業界全体の行動を変えるのは困難である
・新しい大規模AI訓練の停止は無期限で、世界的に実施が必要
・国家間の利益や競争ではなく、共同でAI絶滅シナリオを防ぐことを最優先課題とする
・人類はこの問題に対処する準備ができていない
引用：TIME

記事内の主張は「6ヶ月の停止という期限を設けるのではなく、安全性が確立されるまでしっかり準備をする必要がある」というものである。

これほどまでに未来予測ができない事象がいままであっただろうか。

AIに関する情報は日に日にアップデートされているので、またこういった主張を加味したルールが制定される可能性もある。

AI絶滅という映画のような最悪なシナリオを避けるように、意識する必要がありそうだ。

Goldman Sachsによると、生成系AI（ジェネレーティブAI）は将来3億人の雇用を生み出す可能性がある、との見解がある事をINDEPENDENTの記事が報じた。

生成系AIとは、人間が作成したものと同等のテキストや画像等を生成できるシステムを指し、ChatGPTやMidjourneyなどが特に有名である。

現在の仕事の約3分の2がAIによって変化する可能性があり、最大で現在の仕事の4分の1が置き換わる
引用：INDEPENDENT

記事内では上記のような予想がされており、我々人間の仕事は無くなるのではという懸念がされている。

しかし、最近のAI業界の加速スピードを見るとある種納得せざるを得ない。むしろ「その見解さえも上回る可能性があるかも、、」と懸念する人が多いのでは無いだろうか。

AIの影響を受ける業界

AIの影響は業界によって大きく異なる。

例えば「管理職の46％がAIの影響を受ける」との予測がある一方で、建設業ではわずか6％にとどまるとの見解がある。しかし、それも物理的に動けるロボットの発達次第では建設業の%が高まる事も予測される。

少し前までは「AI・ロボットにとって変われる職種」と言うと、労働系の代替というイメージが強かったが、今では管理・創造性などの人間が得意とされていた分野の方が脅かされているのが事実だ。

一体誰がこんな未来を予測できただろうか。このような未来を予測できた人の方がはるかに小数であり、今後もこの影響は加速度的に高まっていくだろう。

労働者や企業がAI技術の導入やスキルの習得に適応する事は、今後避けられないようだ。

『GPT-5の登場でAIは人間を超えるのか』という記事では更に具体的な話をしているので、そちらもぜひチェックして頂きたい。GPT-4でも大変な騒ぎになっているのに、年内にGPT-5のトレーニングを終えるという噂がされている。

生成系AIの未来

生成系AIの発展は、予測ができない部分が多い。そのため社会全体での倫理的な議論や規制の整備がこれから必要となってくる。

データのプライバシーや著作権、そしてAIがもたらす偏りや差別問題など、様々な課題に対処するために、関係者が連携して対策を講じることが求められる。

そして生成系AIがもたらす雇用の創出は、経済成長や労働者の生産性向上に寄与する一方で、業界や職種によって異なる影響を与えることが予想される。

「今はまだ自分の職種には関係がない」とAIを気にかけていない人も現状多いように思えるが、自分ごとだと思ってAIの情報を追う事が得策のようだ。