対話型AI なぜ通報に誘導？どう利用すべきか？
【けさ知っておきたいNEWS】
グッド!モーニング「けさ知っておきたいNEWS」のコーナーで解説されたNEWS内容をご紹介しています。
この解説のあと「けさ知っておきたいNEWS検定」が出題されます。
生成AIの利用が広がる中で、「どう使うべきか」が改めて注目されています。
番組では、ジャイアンツの阿部慎之助前監督の娘さんが、ChatGPTに父親から暴力を受けたと相談していたとされる件をきっかけに、対話型AIの使い方や注意点について解説されました。
若い世代では生成AIの利用がかなり進んでいます。
週に1回以上使っていると答えた10代・20代は8割近くにのぼり、調べものやレシピ、けがをした時の対処法など、日常のさまざまな場面でAIに相談する人が増えています。
さらに「気軽に相談できる相手」として、配偶者・パートナーや友人、母親に続き、対話型AIが4位に入るというデータも紹介。
ちなみに、父親は9位という調査結果でした。
対話型AIはなぜ相談相手になっているのか
ChatGPTやGoogleのGeminiなど、対話型AIは今や多くの人にとって身近な存在になっています。
スマートフォンでいつでも使えるため、夜遅い時間や、人に話しにくい内容でも気軽に相談しやすいのが大きな特徴です。
情報の下調べやレシピ、体調やけがをした時の初期対応など、まずAIに聞くことがあるという意見もあり、人に相談するほどではないけれど何かヒントがほしい時に使いやすい存在になっていることがわかります。
一方で、番組では「AIは便利な相談相手ではあるものの、万能ではない」という点も強調されました。
AIは人間のように相手の状況を完全に理解しているわけではなく、質問の仕方によって答えが大きく変わることがあります。
AIの答えはどう作られているのか
ITジャーナリストの三上洋さんによると、対話型AIは、運営会社が適切だと判断したインターネット上の文章などをAIに大量に読み込ませ、そこから学習した内容をもとに、適切だと思われる答えを導き出しているといいます。
つまり、AIの回答は「正解を知っている人が答えている」というよりも、学習した情報をもとに、可能性の高い答えを組み立てているため、利用者がどのように質問するかが非常に大切になります。
たとえば、今回話題になった相談でも、年齢や状況などの情報をAIが十分に理解できていれば、違う案内になった可能性もあります。AIに相談する時は、できるだけ具体的に状況を伝えることが重要です。曖昧な質問のままだと、AIも的外れな回答をしてしまうことがあります。
暴力や自殺の相談では「ガードレール」が働く
今回の件で注目されたのが、ChatGPTが児童相談所への通報を促したとされる点です。
番組では、これは「ガードレール」と呼ばれる安全対策の一環だと説明されました。
対話型AIは、暴力や自殺など命や安全に関わる相談を受けた場合、自分だけで判断して答えを出さないように設定されています。
その代わり、専門の相談窓口や担当機関に早い段階でつなぐようになっています。
今回の場合、その案内先が児童相談所だったということです。
このような安全対策は、AIが危険な行動を助長したり、深刻な問題を見落としたりしないために設けられています。
近年では、AIをめぐる訴訟リスクもあり、開発企業側がこうしたガードレールを強化しているとも言われています。
2月にカナダで起きた銃乱射事件は、容疑者がAIと犯行について会話していて、これをAIが危険な内容として会社側にアラートを出していたにもかかわらず、会社側が当局に通報しなかったとして、遺族から訴えられたという背景から、AIの安全対策はより厳しくなっているといいます。
AIは優しいが、必ずしも正しいとは限らない
対話型AIの特徴として、相談者に寄り添うような言葉を返すことが多く「大変でしたね」「つらかったですね」といった聞き心地のいい言葉を返してくれるため、悩みを抱えた人にとっては安心感があります。
ただし、AIは人を傷つけないように優しい言葉を選ぶ一方で、時には厳しい指摘や客観的な助言が不足することもあります。
人間同士の相談では、相手のためを思ってあえて厳しいことを言う場合もあります。
しかし、AIは基本的に利用者に寄り添う方向に答えることが多いため、その言葉だけをそのまま信じるのは危険です。
さらに、AIは見破りにくいウソを答えることもあり、誤った情報を指摘されると「間違っていました」と訂正することもあります。
つまり、AIの答えは参考にはなりますが、最終的な判断材料としては不十分な場合もあるのです。
生成AIは「相談の入口」として使うのが大切
生成AIは、調べものや考えの整理、文章作成、レシピの提案など、日常生活のさまざまな場面で役立ちます。
悩みを言葉にするきっかけにもなり、人に話す前の整理役として使うこともできます。
ただし、暴力や自殺、病気、法律、金銭トラブルなど、人生や安全に大きく関わる問題では、AIだけに頼るのではなく、専門機関や信頼できる人に相談することが欠かせません。AIは24時間使える便利な存在ですが、責任を持って現場で対応してくれる人間ではありません。
番組では、複数のAIを使って比べたり、自分でも調べたりすることの大切さも伝えられました。
AIの答えをそのまま信じるのではなく、「参考意見のひとつ」として受け止める姿勢が必要です。
まとめ
生成AIは、若い世代を中心に身近な相談相手として広がっています。
気軽に使えて、すぐに答えを返してくれる便利な存在ですが、その答えが常に正しいとは限りません。
質問の仕方によって答えが変わることもあり、時には誤った情報を出すこともあります。
特に、暴力や自殺など深刻な相談では、安全対策として専門窓口へ誘導する仕組みが働きます。
これはAIが危険な判断をしないために必要な仕組みですが、利用する側もAIだけに頼りすぎないことが大切です。
生成AIは、悩みを整理したり、情報を探したりする入口としてはとても役立ちます。
しかし、最終的な判断は人間が行い、必要に応じて専門家や公的機関につなげることが重要です。
便利さと注意点を理解したうえで、上手に付き合っていくことが求められています。
| 今まさにAIの技術が進む中国では、4月 AIでのあることを規制する法案が検討されていることが発表されました。 これが今朝の「けさ知っておきたいNEWS検定」です 中国のAI法案で規制の対象となったのは? |
NEWS解説
□ 中国のAI法案で規制の対象となったのは?
【お天気検定】
□ 新たな「防災気象情報」に新設されるのは?
【エンタメ検定】
□ お休み
|
「今知っておきたいNEWS検定」「お天気検定」 |
テレビ雑誌検定クイズプレゼントの応募方法
お天気検定