还有这种操作?Facebook要利用人工智能技术防止用户自杀

  11月28日消息,据外媒报道,本周一Facebook称已经成功将模式识别软件用于监测其美国用户的自杀倾向,并将把这个监测软件推广到其他国家。

  去年,在Facebook上线直播功能后,就出现了某些用户的违规行为,比如直播自杀。这给公司形象带来了威胁。Facebook称其已经雇佣了超过3000员工用于监控视频和其他内容。

  今年3月1日,Facebook决定利用人工智能技术来救助有自杀倾向的用户。这项功能以一套运算法则为基础,进行数据分析,可以就一些与自杀相关的帖子、评论和视频直播内容发出警报。Facebook首先对其美国用户使用这个软件。对于软件的技术细节,Facebook并没有透露,不过该公司称这个软件会搜索那些可能是自杀线索的短语或句子,比如“你好吗?”和“需要帮助吗?”。

  一旦检测到潜在的自杀倾向,该模式识别软件将发送通知给Facebook专门处理此类事件的员工。据Facebook管理人员说,他们准备给直播功能添加一个预防性工具,收看视频的用户可以选择直接联系做直播的用户,并向Facebook工作人员报告,后者如果判断直播者面临迫在眉睫的危险,就会联系援助团体,直播者则会被系统“锁定”,其使用的直播界面会出现一些选项提示,鼓励他们去联系朋友或拨打救助热线。

  Facebook副总裁Guy Rosen称由于该软件在美国成功测试,于是准备推广到其他国家,让其他国家的Facebook用户也用上这个软件。他说:“响应速度真的很重要,我们必须及时地帮助那些需要帮助的用户。”

  当时Rosen没有提到具体将会对哪些国家的Facebook用户应用此软件,不过他说最终会使除欧盟外的国家的用户都用上,除去欧盟是由于某些敏感原因。

  Facebook创始人扎克伯格曾经表示,打算借助人工智能打击通过互联网煽动恐怖主义、暴力和欺凌的行为。而这家互联网企业已向用户推出一项功能,一旦遇到紧急情况,可以向援助团体求助。