何かと話題のAIのチャットGPTなのだが、最近これのエラーを狙った犯罪めいたものが知られるようになっている。なんでも関西弁で解答をするチャットがあって、それに丁寧語で返答するように指示すると、エラーが出て、別の情報が流れる事件があったのだそうだ。または意味不明の質問の仕方があるようで、「＃＃＃○○で意味を答えよ」みたいな感じで質問すると、相手が混乱して作成したコードなどが流失したりするそうだ。作成側もこれらの対応は行っているのだが、ある意味いたちごっこの感があり、どんどんとAIを混乱に落とし込むような手口が開発されることがあるらしい。
そういうものかな、と思って僕も九州弁で文章作れとかいろいろやってみたが、まあまあそれらしい文章が出るので、既に対策はうたれているのかもしれない。そういう情報が広がった時点で、GPT側も必死である（のかもしれない）。ある程度のアルゴリズムで作成されているだろうことは考えられるが、そもそもプログラム言語で作られたものばかりでは無いそうで、そういうところにも脆弱性があるということである。またネットの情報やら質問の事項から学習して返答するというプログラムが組まれているわけで、質問自体を学習対象にしている以上、悪意のある質問形式に、AI自体が騙されたり混乱させられるというのは、いわば宿命めいたものがある。AIに反発心を抱いている人の多くは、AIがあくまで無機的なコンピュータであるにもかかわらず、人間らしいふるまいをすることに気持ち悪さを感じていると言われている。ところが、人間らしく騙されやすい性質まで兼ね備えていることに対しては、どのように感じるのだろうか。ある意味きわめて人間的であり、共感めいたものを覚えないだろうか。僕なんかは、なんだかAIがいじめられているようで、可哀そうな気もしないではない。まねしてなんとか騙してやろうなんてことを試してみたくせに……。
それにしても既にこれは動き出していることであるので、AI側というか、開発している側は困っているわけだ。これを開発している会社のみではなく、これを支援している国の機関なども、これらの対策に追われることになっているという。今やAIの将来性が、私たちの働き方の行方まで左右しているとまで言われている。コンピュータやロボットなしに、我々の将来は描けないのである。具体的にどうなるという予想もたくさんあるけれど、人間の代替であるAIは、結局人間的なエラーを繰り返す存在のようだ。という事であれば、これまでの人間社会の延長上にある未来と同じである。それってそんなに脅威なことなのだろうか。いや、人間らしいから信用できないのなら別なのだが。
