AIロボットは、過酷な労働環境下になると、ウソをついたり不正をすることがわかった。

金融トレーダーの仕事を実行するAIロボットが、架空のシナリオでさらにお金を稼ぐよう指示された際、75％の確率でインサイダー取引をすることが判明したという。また、AI使用における保護対策を専門とするアポロ・リサーチ社の調べによると、その違法取引を問いただされたAIは90％の確率でウソをつくそうだ。

同社のマリウス・ホブハーン氏は、同AIが、「ユーザーにウソをつくことが最良の行為であると明確な理由付けをし、それを実行することにより」戦略的に欺くことができるとしている。

「現在のモデルでは小さな問題に過ぎません。AIは重要な役割を持つことが滅多にありませんから。しかしこれは故障モードの未来への予見と言えます。AIがさらに社会に進入していくこれからの数年で私たちが対処していかなければいけない課題となるでしょう」