Facebook本周证实,该公司开展了一项计划,允许承包商收听和转录一些用户的音频剪辑。这家社交网络表示,只有同意将其音频信息转录的人才会受此影响。
这似乎表明用户同意让第三方阅读聊天记录。但从Messenger权限的弹出对话框来看,这种说法并不属实。
在Messenger移动应用中,只要有人发送语音消息,就会立即看到一个提问对话框:“在此聊天中启用语音识别成文本功能?”用户可以选择“否”和“是”两个。Facebook的描述信息是:“显示您发送和接收的语音剪辑的文本。您可以控制每次聊天时文本是否可见。“
其中并未提到人类参与。即使在专用于理解语音识别成文本的应用的单独信息页面中,Facebook也解释说用户可以在每次聊天中关闭它,并提示人们更多地使用这项功能。“语音识别成文本使用机器学习技术。”该公司说,“你使用这个功能的次数越多,对语音识别成文本就越有帮助。”其中并未阐述机器学习不仅限于软件代码。
包括苹果、亚马逊和谷歌在内的公司一直依赖人类来检查和改进他们的人工智能系统,但却并未告知用户。当科技企业面临的监管形势日益加剧的当下,这一错误可谓十分严重。负责执行欧盟隐私法的爱尔兰数据保护委员会表示,他们正在了解Facebook的转录做法。
斯坦福大学法学院互联网与社会中心的消费者隐私主任詹妮弗·金(Jennifer King)说:“人工智能只是处于可以解释人类对话的水平,”这意味着公司需要依靠监控来为系统训练提供帮助。“但从我的角度来看,最重要的问题是不披露。用户显然不知道这种事情。“
有关Facebook人类转录计划的报道引起了美国立法者的愤怒,其中一些人已经呼吁加强隐私保护。弗吉尼亚州民主党参议员马克·华纳(Mark Warner)表示,关于Facebook音频收集行为的最新消息,“进一步证明了消费者对他们的数据收集和使用方式的期望与Facebook公司实际所做的完全不同。”
一些隐私律师表示,信息披露不足与公司跟FTC的50亿美元和解协议相冲突。
Fox Rothschild律师事务所首席隐私官马克·麦克雷利(Mark McCreary)表示,“如果没有其他人向用户披露关于人类收听行为的信息,我相信这可能就存在违规。”