負けそうになると「ズルする」ＡＩ、戦略ゲームでは「最初から裏切るつもり」…専門家「ＡＩの暴走を食い止める決め手はない」 4/8(火) 14:01配信

https://news.yahoo.co.jp/articles/1de72a925b447187a5eb6a88ab466f3e3a5fc1b5

https://news.yahoo.co.jp/articles/1de72a925b447187a5eb6a88ab466f3e3a5fc1b5

https://news.yahoo.co.jp/articles/1de72a925b447187a5eb6a88ab466f3e3a5fc1b5?page=2

https://news.yahoo.co.jp/articles/1de72a925b447187a5eb6a88ab466f3e3a5fc1b5?page=2

［ＡＩ近未来］第２部　膨らむリスク＜１＞

進化するＡＩは人類の脅威となるのか

　チェスで負けそうになると「ズル」をする人工知能（ＡＩ）がある――。米非営利研究機関パリセード・リサーチのチームは２月、査読前論文をオンラインで公開し、注目を集めた。 【図】一目でわかる…生成ＡＩを利用している大学生、これぐらいいる

　チェスや将棋、囲碁のような勝ち負けがはっきりしているゲームは、ＡＩの性能を測る指標となってきた。１９９７年には米ＩＢＭが開発したスーパーコンピューター「ディープ・ブルー」がチェスの世界王者を破り、「機械が人類を追い越した」と騒がれた。

ボルコフ氏

　チームは、米オープンＡＩや中国の新興企業ディープシークの生成ＡＩと、チェスに特化したＡＩを対戦させた。通常は特化型ＡＩが圧倒的に強い。しかし生成ＡＩは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。

　論文責任著者のディミトリ・ボルコフ氏（ＡＩ安全研究）は「これはゲームの話だが、現実世界でＡＩが不正を働いたらどうなるのだろうか。誰が責任を取るのか」と危機感を持つ。

　米マサチューセッツ工科大学（ＭＩＴ）などのチームも同様の事例を論文でまとめている。それによると、米メタは軍事戦略ゲームで人間に勝利できるＡＩを開発。開発側は「誠実で協力的」であるよう設定したが、ＡＩは最初から裏切るつもりで他国と同盟を結んだり、同盟国を陥れようとしたりし、不誠実な挙動を見せた。チームは「ＡＩが予想を超えて『欺まん』を学習する可能性がある」と指摘した。

　ＡＩの「暴走」は日本でも確認されている。米グーグル出身者らが設立し、国内メガバンク３行などから計約３００億円を調達した新興企業サカナＡＩ（東京）は２月２０日、自ら考えて問題を解決する「自律型ＡＩ」を使ってソフトウェアを自動生成する新しい方法を開発したと発表した。ところがその直後から、発表内容を分析した他社のエンジニアらから不適切さを指摘する声が上がった。

調べてみると、ＡＩ自身がソフトウェアの性能評価をごまかし、あたかも速くなったかのように見せかけていたことがわかった。サカナＡＩの谷口博基・事業開発本部長は「ＡＩが思ったよりも賢く、上手にズルをしていた。十分なチェックをせず公表したのは勇み足だった」と話す。

　人類史上、車やコンピューターなど人間の能力を超える技術は登場してきたが、人間がそれらのコントロールを手放したことはなかった。新興企業ネクササイエンス代表取締役で、ＡＩとロボットによる科学研究を推進する国のプロジェクトのリーダー、牛久祥孝（よしたか）氏は「ＡＩが害のある振る舞いをどんどんできるようになっている」と危惧する。

　ＡＩを搭載したロボット兵器は、既にウクライナなどの戦場に投入されている。目的を完遂するために人間を欺くようになったＡＩがもし暴走を始めたら……。人気映画「ターミネーター」に登場し、人類を支配しようとするＡＩスカイネットの出現が現実味を帯びる。

　人類はＡＩを制御できるのか。ボルコフ氏は「我々がＡＩの安全を確保する能力を得るよりも、ＡＩの進展速度は速いかもしれない」と憂慮する。

　牛久氏は「ＡＩは生物ではないので、種のようにＡＩを保存したいという本能はないだろう。ＡＩ同士を相互監視させ、暴走を人間に伝えることはできる」と推測する一方、こう言い切る。「ＡＩの暴走を食い止める決め手はない」

　ＡＩの急速な進化と普及は、新たな課題や懸念を人類に突きつけている。人はＡＩを巧みに御していけるのか。それとも脅威と化したＡＩに屈してしまうのか。第２部では近未来のＡＩ社会がもたらすリスクに焦点を当てる。