爸拍儿下体肿胀照给医生参考竟被AI认定性虐 安卓、哀凤恐怕都逃不了

ysc

2022-08-25 21：46 联合新闻网/ 综合报道



美国一位父亲拍下儿子下体患部照片给医生参考，未料竟被Google判定涉嫌性虐待; 图为示意图，图中人物非新闻当事人。 示意图/ingimage

美国旧金山一名男子因幼龄儿子下体处疼痛，紧急之下立刻为儿子预约隔日视讯看诊，护理师要求他先提供照片给医生参考。 然而，他拍下儿子下体处的照片竟为他带来严重后果。

根据《纽约时报》报导，2021年某夜，当时在家远距上班的电脑软件工程师马克（Mark），发现幼龄儿子的出现疼痛、肿胀发炎状况，便拍下儿子患部情形给医生参考，事后儿子使用抗生素也康复了。

未料，拍完照片之后的2天，马克却收到Google官方通知，指出他被认定涉嫌对儿童性虐待或性剥削，该张拍给医生看的照片可能是被Google AI识别为儿童色情图片，马克是Google重度用户，会将影音信息备份到云端而被Google审查内容，最终Google决定关闭他的电子邮件（Gmail）、电话服务（Google Fi）等，且申诉无用。

Google于2021年提交超过62万份涉嫌虐待儿童的报告，禁用超过27万名用户账号。 根据《IT之家》指出，包括Facebook、Twitter和Reddit在内，会使用2009年由微软发布的PhotoDNA工具来比对找出传播虐童的图像，另一款为2018年由Google发布的Content Safety API，它处理虐童图像内容的效率高达700%，目前也开源给Facebook使用。

马克使用的是Android手机，但其实苹果去年曾宣布儿童安全（Child Safety）计划，苹果曾在iOS / iPad OS 15.2测试版本中加上图片审查功能，自动检测iPhone和iCloud是否涉及儿童色情影音内容，但消息一出随即引来反弹声浪，最终该计划被无限延期。 然而，苹果用户也别高兴得太早，毕竟只要使用Google就会面临被审查的可能。