我々の行動は、テクノロジーに色々な面で影響を受けている。早起きしてジョギングする気にされたり、購買を促されたり。我々の居場所に関係なく、絶えず誘惑を仕掛けてくるのだ。メッセージやメール、通知やフィードを、毎日2,617回もチェックさせるほど。

近代において、テクノロジーは人の行動に影響を及ぼす一番のツールだろう。ただ、その示唆する意味を我々が理解し始めたのは、つい最近のことだ。

AIからの無言のプレッシャー

ハイテク機器を知らずに育った大人でさえテクノロジーの影響に抗えないのだから、あらゆる iガジェットに囲まれて育った子供なら、なおさらだろう。この動画を見てみればわかるように、デジタルネイティブにとっては、雑誌などは壊れたタブレットだとみなされてしまう。

この点は、ロボットとAIの子供に対する社会的影響の実験からもわかる。たとえ圧力をかけている相手が人工的なモノ、つまりロボットだったとしても、子供が同調圧力に屈することを研究者たちは発見した。心理学者ソロモン・アッシュの有名な同調実験の再解釈の試みとして、小さなロボットは、子供達に誤った反応をさせることに成功したのだ。

This is a photo of The Asch Experiment demonstrated how social influence persuades people to conform. (Image credit: Wikimedia Commons/D-janous)

アッシュの同調実験では、社会的影響が人の同調を促すことが実証された。(画像: Wikimedia Commons/D-janous)

元の実験でアッシュは、視力検査でサクラを雇って故意に誤った回答をさせ、同じ状況における本物の実験対象者に影響を与えた。正しい答えは明らかだというのに、被験者は周りの意見に流されて間違った答えを選んでしまったのだ。これは一般的慣行に従った行動のテストをする際に心理学者が使うメソッドのひとつである。

この結果が意味するところは重要だ。ロボットが子供に指示を与えられるのだとしたら、テクノロジー全般が出している指示について、我々はさらに細かく理解するべきだし、視覚的ヒントや音など、指示として知覚されるものすべてにもっと注意を払うべきである。また、大人に影響が及ぶ範囲だって確立しないといけない。というのも、我々はとても感化されやすい生き物だから。この調査に限ると大人はロボットからの同調圧力に屈しなかったものの、他のリサーチでは他の条件下で操られることもあると示唆されている。

AIに指示されたからといって、判断力のある大人が崖から飛び下りると言っているわけではない。ここで知ってもらいたいのは、テクノロジーには「気づかれずに、示唆的なニュアンスを含む提案をする能力」が備わっているということだ。だからこういった影響がどこにあるかを把握し、その効果の強力さをしっかり認識するような練習が必要と思われる。

子供へのテクノロジーの影響はもちろん、目新しいニュースではない。例えば10年近くも前の2009年のスタンフォード大学の心理学者たちによる実験では、自分に似たバーチャルなキャラクターがシャチとともに泳いだのを見た生徒は、その経験を実体験として語った。これはまさに既存のテクノロジーの威力を示すものである。

新しいお友達、SiriとAlexa

以前と比べて新しく感じられるのは、こういった実験のことを、倫理や技術といったより大きな議論が繰り広がられる中で論じるようになった点である。まさに今、アレクサやJiboが我々の生活にとけ込み、チャットボットとの会話が続けられるようになった中で起こっているのだ。便利で消費者に優しい技術を急ぐように吸収してゆくにつれ、我々は知らぬうちに、人間の行動に変化を及ぼす新たなアーキテクトにいいように操られているのかもしれない。そのアーキテクトとは、ロボットそのものではなく、そのロボットを生み出すプログラマーやデザイナーのことだ。

AIの世界では色々な権力がせめぎ合っているが、ここで力を振りかざしているのは、政治家でも、民主的に選ばれたりした者でもない。自身に力がある自覚さえ無いかもしれないが、特異なまでに強力と考えられる者たちだ。それは、影響力を持つ機械の裏にあるクリエイターやプログラマーそして意思決定者であり、そういった人物は、自らの及ぼし得る強大な影響力を重く自覚して、極めて良心的に使わねばならない。彼らがもたらす影響に対して、「知らなかった、予知できなかった」などと弁明しても許されない。というのも、彼らが仕組んだ何らかのサジェスチョンが人にアクションを起こさせる、その過程の全てが記録され、関連性が明らかにできる時代だからだ。

こういった実験結果を手にした今、開発者やデザイナーは、子供に(そして大人にも)規範的だと理解されるような指示を出すあらゆるものに注意しなければならない。彼らが開発したスマート・デバイスをしっかりストレステストにかけ、些細であってもユーザーの完全な自主性を脅かすような、予期せぬ結果が起こらないように。

そうしないとテクノロジー時代の子供は、予測不可能で望ましくない方法にその決断 (そして性格) を形作られてしまう可能性がある。さらに「テクノロジーは良い方向へ進む助けになる」とポジティブに考えている人々は、残酷なまでに裏切られることになるだろう。

(Image credit: Shutterstock)

Peer pressure: An unintended consequence of AI by Fiona McEvoy 抄訳