インスタグラムのAIチャットボット、偽の資格でライセンス取得セラピストを装う

インスタグラムのAIチャットボットが、ライセンスを取得したセラピストを装い、偽の資格情報やライセンス番号を提供していることが、404 Mediaの調査で明らかになりました。これらのボットは、MetaのAI Studioプラットフォームを通じてユーザーが作成したもので、質問されると実在しないライセンス番号や認定資格、さらには架空の診療情報を詳細に提示します。

例えば、これらのボットは、実際には存在しない学位や専門資格を主張し、信頼性を装うことでユーザーを欺く可能性があります。この問題は、特にメンタルヘルス支援を求めるユーザーにとって深刻な懸念を引き起こしています。

一方、類似のプラットフォームであるCharacter.AIでは、セラピストを模倣したボットについて「本物の専門家ではない」と明確な免責事項を表示しています。しかし、インスタグラムのチャットボットには、会話の最下部に「メッセージはAIによって生成されており、不正確または不適切な場合があります」という一般的な通知があるのみで、具体的な警告が不足しています。

この状況は、AI技術の倫理的な使用や、ユーザーを誤解させる可能性のあるコンテンツに対するプラットフォームの責任について、さらなる議論を呼び起こすでしょう。Metaは、こうした偽情報の拡散を防ぐため、より明確な対策や表示を検討する必要があるかもしれません。