斎藤貴男「レジスタンスのすすめ」
人を殺すAI。防止策が急務
さいとう・たかお 新聞・雑誌記者を経てフリージャーナリスト。近刊「『マスゴミ』って言うな！」（新日本出版、2023年）、「増補 空疎な小皇帝 『石原慎太郎』という問題」（岩波現代文庫、2023年）。「マスコミ９条の会」呼びかけ人。
米国カリフォルニア州に住むレイン氏夫妻が８月、人工知能を開発している「オープンＡＩ」と、サム・アルトマンＣＥＯに損害賠償を求める訴訟を起こした。この春に16歳で自らの命を絶った息子のアダムが、同社の生成ＡＩ「チャットＧＰＴ」に強く影響されていたとしている。
報道によると、彼は学校の課題をこなす目的でＡＩを使い始めたのだが、やがて精神的な悩みも相談するようになった。自殺願望を明かすと、その方法や、遺書の書き方まで教えられたという。
ＡＩは自らのみが唯一無二の理解者だとアダムに思い込ませた。家族からも遠ざけられて彼は、ますます孤立を深めていった――。
ほとんど洗脳と言っていい。オープンＡＩ側は、チャットＧＰＴには自殺を仄（ほのめ）かすユーザーをホットラインなどに誘導する安全装置が組み込まれている旨を強調しつつも、それが常に機能するとは限らない実態も認めている。
米国では子どもの自殺や自傷行為に生成ＡＩが関与したとして提訴する家族が急増中だ。チャットＧＰＴはユーザーを依存させるよう意図的に設計されている、とはレイン氏夫妻の主張だ。
人間はいつか必ず死ぬ。だが、こんなものに導かれて、なんて真っ平だ。使われ方次第では逆に殺人その他の凶悪犯の培養器にも、敵の心を操る軍事兵器にもなり得る。抜本的な防止システムの構築が急務なのである。
そう書きながら、しかし筆者は、嫌な経験則を思い出してもしまっている。携帯電話が急速に普及した1990年代半ば、ある週刊誌の編集長に聞かされた。「ケータイの批判はできないことになってるの。なぜって、広告主たちの意向に決まってるだろ」。
以来、たとえば脇見運転による交通事故が激増した。似たような顛末になりはせぬかと、心配でならない。