ボットを判別するためのシボレスルールの提案
Stanford HAI に以下の記事が公開されていました。
遠隔で医療的なアドバイスを行ったり、子供に勉強を教えたり、借金の回収をしたりといった会話をしているときに、その相手が実は人間ではなくボットだった、ということは近い将来に起こりえます。このような時に、どうやって人間かボットか判別するのか？という話題です。
このようなサービスとしては Google Duplex が既に公開されています。Google の AI が飲食店に電話を掛けて予約してくれるというサービスです。
Google AI Blog: Google Duplex: An AI System for Accomplishing Real-World Tasks Over the Phone
人間の代わりにAIが電話予約。「Google Duplex」は予想を遙かに超えてきた - 価格.comマガジン
特徴として、ただ流暢に話すのではなく、「えーと」「あのー」といった有声休止も使いながら話します。そのため、実際に Google Duplex と話してみるとボットとは気付かなかった、といったことになるようです。より幅広い状況でこのようなサービスが使用されるようになると、自分が会話している相手が本当に実在する人間なのか、全く見分けられなくなります。
そこで、Stanford HAI が提案しているのがシボレスルールになります。
「シボレス」というのは、Wikipedia によると「ある社会集団の構成員と非構成員を見分けるための文化的指標を表す用語」ということです。
このようなボットに AI シボレスを生成するよう実装することで、ボットであることを識別できるようにし、どこで学習を行うか、オーナーシップを誰が持っているかといった情報を取得できるようにします。これにより、人間と話しているということを確かめることや、逆に丁寧に話すのが面倒なときはボットと雑に会話するといった選択もできるようになります。
正直なところ、記事を読んでもシボレスルールが流行るようには思いませんでした。悪意を持って作られたボットの場合、そのボットはシボレスルールを無視してより人間になりきろうとするでしょうから、どこまで意味がある実装なのかよく分かりません。また、逆に信頼しているサービスなのであれば、必要なサービスが提供されている限り相手がボットでも人間でも問題にはならない気がします。実は人間かボットか判別する必要はないかもしれません。
この記事を読んで思い出したのは、NVIDIA の発表会で登場した CEO の映像が一部フル CG だったという記事です。
映像が作り込まれた CG で、音声も AI が出しているという状況になったら、ビデオがリアルかフェイクか全く判別できません。特に昨今のコロナ禍では、転職後に一度も出勤していないみたいな話もたまに聞きます。そうすると、WEB 会議でカメラをオンにして話していた相手は実在しない人間だった、みたいなことも実現するのかもしれません。（メタルギアソリッド2 の大佐みたいな）
そう考えると少し気味が悪くなってきます。twitter でフォローしてくれた相手はボットだった、DM を送ってきたのも実はボットだった、ということは既にありそうです。答えを知らずにいればそれはそれで幸せなのかもと思いましたが、ボットと判断できずにボットから影響を受けて生活が変わっていく、ということが特に政治的な文脈であるかもな、と考えるとやっぱり怖さもあります。ボットを見極めるというのも一つ大事なことだなと感じました。
