【実験結果】SNS上でボットと人間を見分けられない人が47%に

Surfsharkとマルメ大学の修士課程の学生たちが実施した1週間にわたる実験には、700人以上が参加しました。実験の結果、模擬SNSプラットフォーム上で、実際の人間を誤ってボットと判断する回数よりも、正しくボットを見抜けた回数の方が多かった参加者は53%にとどまりました。一方で、約半数にあたる47%はボットを正しく判別できませんでした。サイバーセキュリティの専門家は、SNS上でボットと実在する人間を見分けられない人の数は、今後さらに急速に増加していくと警鐘を鳴らしています。

Surfsharkのシニアプロダクトマネージャーであるユスタス・プキス氏（以下、プキス氏）は次のように述べています。

「人間かボットかを見分けるゲーム『Bot or Not（ボット オア ノット）』および今回の実験は、悪意のあるボットが実際のSNSユーザーにどのような影響を与えているのかを理解するための重要な手がかりとなっています。今年初めには、大手プラットフォームが毎年63億件以上の偽アカウントを削除していることが明らかになりました。これは、世界で1年間に生まれる新生児数（約1億3,500万人）の約47倍に相当します。現在、ボットは数十億単位で生成されており、最新の実験では参加者の半数が、既に本物の人間との区別ができなくなっていることが示されました。今後は技術の進化によって、ボットが実在する人間のプロフィールにより自然に溶け込めるようになるため、この傾向はさらに加速していくでしょう」

感情が揺さぶられるほど、ボットは見抜かれにくくなる

今回実施されたSNSボット実験では、非常に興味深い結果が明らかになりました。データによると、政治や社会問題などセンシティブな話題に触れると、人々のボット判別能力が低下し、本物の人間を誤ってボットだと疑う傾向が強まることが示されています。

「Bot or Not」シミュレーションの議論が感情的な内容へ移行した瞬間、参加者のボット検出能力は低下しました。特に、移民問題をテーマにした政治的な議論では、ボット検出率は54%まで低下し、参加者のほぼ半数がSNS上のボットを見抜けませんでした。また、判定精度も63%に下がり、本物の人間をボットと誤認するケースが増加しました。

さらに、女性の権利に関するトピックでは、最もボット判別が難しい結果となりました。ボット検出率は49%にまで落ち込み、参加者は見抜けた数よりも多くのボットを見逃しました。加えて、判定精度も61%まで低下し、実在する人間の投稿を「ボットによるもの」と誤認する割合が最も高くなりました。

Surfsharkの調査責任者であるルイス・コスタ氏（以下、コスタ氏）は、次のように説明しています。

「一方で、多くの人にとって比較的技術寄りの話題であるデータセンターに関する議論では、参加者は71%という最も高いボット検出率を記録し、大半のボットを正しく見抜くことができました。また、判定精度も76%と高い水準を維持しています。感情を強く刺激されていない状況では、人々はより多くのAIボットを見抜けるだけでなく、本物の人間を誤ってボット扱いする可能性も低くなることが示されています」

なお、「Bot or Not」ゲームは現在オンライン上で一般公開されており、誰でも参加できます。

SNS時代に、人間とボットを見分け続けられるのか？

コスタ氏はさらに次のように述べています。

「今回の実験結果は非常に新しく、重要な示唆を含んでいます。単に投稿内容を“読み解く”だけでは、ボットがあふれるSNS環境に対応できないことが明らかになりました。ボットを見抜く能力は、年齢や利用しているSNS、利用時間などによって左右される傾向があります。しかし、最も印象的だったのは、“感情”こそが最大の盲点だったという点です。議論が過熱すると、人々のデジタル上の判断力は簡単に揺さぶられてしまいます。自動化された偽情報や欺瞞に対抗するために必要なのは、より高度な文章分析ではありません。冷静さを保つこと、そして自分自身の弱点を理解することです」

また、プキス氏は、実践的な対策について次のように説明しています。

「SNSで見かけた情報は、必ず再確認することを忘れないでください。また、見知らぬユーザーの投稿をそのまま鵜呑みにしてはいけません。賞品の当選をうたうメッセージや、不審なリンクへの誘導、『家族が事故に遭いました！』のように不安を煽る文面には特に注意が必要です」

さらにプキス氏は、詐欺対策ツールを日常的に利用するなど、基本的なデジタルセキュリティ対策の重要性も強調しています。こうしたツールは、メールやSMS、ウェブサイトの内容を分析し、それがボットや攻撃者によって生成されたものかどうかを判断する