据外媒报道,Facebook 周一表示,在成功利用模式识别软件监测美国用户的自杀倾向后,该公司将把这一软件扩展到其他国家。
Facebook 今年 3 月开始在美国测试模式识别软件,利用其扫描 Facebook 博文和评论,找出可能是自杀倾向信号的短语。
Facebook 并未披露这款程序的技术细节,但表示其软件会搜索特定的短语,例如“你还好吗?”以及“我能帮到你吗?”等等。
如果软件探测到潜在的自杀倾向,它便提醒专门处理此类报告的 Facebook 员工。系统还会向用户或是其朋友推荐有用的信息,例如热线电话来进行帮助。Facebook 员工有时会致电地方当局,以进行介入。
Facebook 产品管理副总裁盖伊·罗森(Guy Rosen)表示,该公司开始在美国以外推出模式识别软件是因为,其在美国的测试非常成功。
Facebook 称,正努力确保随时有专门员工待命,来使用当地语言与执法部门进行联系。
“速度真的很重要,我们必须向人们提供实时的帮助,”罗森说道。
去年,在 Facebook 推出视频直播功能后,出现了许多自杀和谋杀等暴力内容,对该公司的形象造成威胁。今年 5 月,Facebook 表示将雇佣 3000 多名员工来监控视频和其他内容。
罗森并未透露将在哪些国家部署模式识别软件,但表示将最终将在欧盟以外的全球各国部署。Facebook 称,排除欧盟国家是为了避免监管问题。
除了 Facebook,其他公司也在试图阻止用户自杀。例如,谷歌搜索引擎会对特定的搜索展示防止自杀热线。