少年自殺多発、背景にAI悪用した脅迫か アップルに対策強化求める声

2021年以降、脅迫被害を受けた十代の少年たちが自殺する事例が相次いで報告されています。背景には、AIを悪用し、わいせつ画像を捏造して脅迫する手口の増加があるとみられています。

ウォール・ストリート・ジャーナルは、脅迫を苦に自ら命を絶った少年たちの事例を報道。アップルは、未成年者のアカウント向けに、コミュニケーション安全機能を導入していますが、一部からは対策が不十分であるとの批判も出ています。脅迫に利用されるのは、被害者が騙されて提供した画像だけでなく、AIで作成された偽の児童性的虐待画像（CSAM）も含まれます。