インプレゾンビ
一部のインプレゾンビの中身が人間だと知ったときは、びっくりした。てっきりbotだと思っていた。
“インプレゾンビ” 投稿者をパキスタンで直撃 SNSでは偽情報が氾濫 その背景は | NHK | フェイク対策
チューリングテストを受験する機械（bot, プログラム）とその開発者にとっては、「人間か機械かわからないものを、人間だと思いこませる」ことが目標となる。裏を返せば、テストの失敗例としてまず考えるのは、「人間らしい応答をしようとした機械が、人間に『こいつ機械だろw』と見破られる」ことだ。
インプレゾンビの場合、「日本人らしい応答をしようとした外国人が、日本人に機械だと思われる」という事象があって、それで「ゾンビ」と名付けられる。だがこれは先に挙げたチューリングテストの失敗例とは少し構造が異なる。中身にいるのは外国人であり、機械ではない。そこにはまだ「外国人ユーザ（生身の人間）を機械と思い込む」という勘違いがある。日本人は決して正体を見破ったわけではないし、チューリングテストに勝ったわけでもない。
その背後には、「不自然な日本語の投稿は、機械によるものだ」という思い込みがある。想像力の欠如、あるいは停止といってもよい。Twitterユーザは跋扈するスパムに煩わされてきて、その煩わしさから逃れるために、余計な想像力の行使をやめて、まともでなさそうなアカウントには、はじめから取り合わないことにしたのだった。その風土を醸成してきた意味においても、ゾンビの直接の原因となった雑な報酬システムという意味においても、インプレゾンビはプラットフォームに責任がある。
「日本人のふりをした外国人」と「日本人のふりをした機械」をユーザは見分けられなかった。だからこそ「インプレゾンビ」という命名が受け入れられた。いくら日本語が下手でも、場違いな言葉選びでも、相手が生身の人間だとわかっていれば「ゾンビ」とは呼ばなかったのではないだろうか。単に「スパム・荒らし」というこれまでの呼称を続けていたような気がする。
（日本人・外国人という書き方は正確さに欠ける。前者はより厳密には「日本語で書かれたツイートの趣旨を理解している日本語話者」、後者はそうでない人なのだけれど、これを表現するコンパクトな言葉を思いつけなかった。単に日本語を話せるというだけというのは、要件として弱いと思った。「日本語圏ツイッタラーの仲間」またはそれ以外、という分け方でもいいのかもしれない。）
チューリングテストと、ロールズのいう「無知のヴェール」は形が似ている。無知のヴェールでは自分が何者かもわからないのに対して、チューリングテストでは少なくとも自分が人間である、という保証があるという点は大きな差である。インプレゾンビの状況は、評価者が人間である（人間を困らせている）という点で舞台装置はチューリングテストなのだけれど、そこに「無知のヴェール」的論法を使ってみたい。
未知のアカウントからリプライが送られてきたとする。内容を読んでみても、相手が人間か機械かわからない。こんなときどんなリプライを、返すだろうか。自分なら一応礼儀正しく返信するだろう。だって、
- 人間に雑に返事したら不快な思いをさせてしまい、下手すると怒られてこっちが損する。
- でもAIに（無駄に）丁寧な返事をしても、別に自分は損しない
- だから、自分の損失を最小化するには、相手の実体を考えずにすべてのリプライに丁寧に返事すればよい。
2の推論が成り立つかは個人や状況によって異なるのが難しいところ。人によっては「丁寧に返信して損した！」と感じる。あるいは結局AIに丁寧に対処するのが効率がよいということになれば、そこからAIへの人権を認めざるを得なくなってくるどころか、人間が割と自然にそういうものを前提として行動していく…みたいな話もできるかもしれない。
カスタマーサービスにかかってくる音声にAIを用いて、クレーマーの怒鳴り声を穏やかな声に変換するという取り組みがある。
人間は、機械を人間（あるいは、なんらかの動物など、性格を持った存在）と都合よく思い込むことができる（プロジェクションと関連する）。ロボットに愛着を感じたり、 ChatGPTにお悩みを相談したりするのはその例である。他人に何を言われようとも、傷つくくらいなら「相手がAIだ」と都合よく思い込むことができる。実はAIに褒められていようとも、「こんなに褒めてくれるなんて、相手は人間らしいなあ」と思い込める。そういう勘違いは、ただ「相手がAIか人間かわからない」という観念のみに支えられているのであって、それさえあれば、そこに実際のAIは必要ない。
いずれ、AIと人間を区別するのは今以上に大きなコストがかかるようになる。実世界とはいわずとも、言語情報ベースのコミュニケーションの世界でいろんな場面にAIが浸透して、誰がAIで誰が生身の人間かわからなくなってしまうかもしれない。そこで、人間は相手がAIか人間か判別できないために一旦不信に陥り、その後「どっちでもいいか」と開き直ってしまえるかもしれない。そのような諦め・観念を人口全体に植え付けることができれば、匿名性があるか、その場限りの関係を前提とするコミュニケーションのかなりの部分においては、電力消費ゼロで相手を都合よくAIとも人間とも扱える恩恵にさずかり、みんなが幸せな勘違いをすることができる。なんかこういう小説はありそう。
機械を機械であると見抜くことは、嘘を嘘であると見抜くことよりも重要だろうか？4人の人間と1人のAIが、互いの本性をよく知らないままおしゃべりすることは無意味だろうか？