チャットボット一人称使用に警鐘 MIT教授が警告

MITのシェリー・タークル教授が、チャットボットが『私』などの一人称を使用することについて警鐘を鳴らしました。教授は、この一人称使用が人間とAIとの間に危険なほどの過度な関与を生み出していると指摘しています。

なぜ重要か

この警告は、AIとの倫理的な関係性や、その心理的影響を深く考える上で重要です。チャットボットが人間を模倣する度合いが増す中で、その言葉遣いがユーザーのAIに対する認識や行動にどう影響するかは、今後のAI開発における重要な論点となるでしょう。

背景

近年、大規模言語モデルの進化により、チャットボットはより人間らしい自然な会話ができるようになりました。その中で、ユーザーがAIに対して親近感を抱いたり、時には感情的なつながりを感じたりするケースが増えています。

今後の注目点

AI開発者は、より人間らしい対話を目指す一方で、ユーザーの心理的安全性を考慮した表現や倫理規定をどのように設けていくかが注目されます。

原題: Maybe Chatbots Shouldn’t Get to Say ‘I’ or ‘Me’

元記事を読む（WIRED AI）