快捷搜索:  www.ymwears.cn

网络霸凌“盾牌”应用程序使用人工智能打击社交媒体上的巨魔

来自伯明翰阿斯顿大学的计算机科学家们发布了一款应用,该应用使用新型人工智能(AI)算法来打击网络骚扰和欺凌行为。

这款可下载的应用名为Bullstop,是唯一一款直接集成到社交媒体平台上的反网络欺凌应用,可以保护用户不受欺凌者和网络攻击者直接发送信息的伤害。

它是由工程与物理科学学院的博士研究员塞米·萨拉乌开发的,最初是为13岁以上的青少年设计的。

该应用程序是与年轻人合作设计的,以提高其在主要目标受众中被采用的机会。不过,对于经常使用Twitter等社交媒体工具、经常受到骚扰和虐待的成年人来说,它也很有用。高调的网络恶意攻击案例屡见不鲜,足以向我们表明,这种虐待行为在社交媒体上非常普遍。

自Covid-19疫情爆发和开始实行禁闭以来,年轻人和成年人在网上的生活更加深入,上网时间大幅增加,网络欺凌的报告也在增加。今年4月,英国政府为家长发布了新的网络安全指南,敦促他们听从建议,在禁闭期间保护孩子的网络安全。

Comparitech.com对全球1000多名家长进行了调查,发现在2018年至2020年期间,五分之一的欺凌事件是通过社交媒体和应用程序发生的,另有11%是通过短信发生的。根据以色列初创公司L1ght in Digital Trends的数据,网络欺凌的报告在封锁开始时增加了约70%,使得年轻人尤其容易受到网络伤害。

Bullstop独特之处在于,它可以监视用户的社交媒体资料和扫描进攻传入的消息,以确保用户不受的虐待,以及进攻传出消息,以确保用户不使用不恰当的语言和提供一个自我反省的手段。它通过一种人工智能(AI)算法工作,该算法被设计用来理解书面语言:它分析信息并标记攻击性内容,例如网络欺凌、辱骂性、侮辱性或威胁性语言、色情和垃圾邮件。

冒犯性的信息可以立即从用户的收件箱中删除。但是,如果用户希望查看已删除消息,则保留其副本。这款应用还可以自动屏蔽那些不断发送冒犯性信息的联系人。Bullstop是高度可配置的,允许用户决定应用程序如何全面删除不合适的信息。

设计Bullstop的博士生塞米乌·萨拉乌说:“这款应用程序与其他应用程序不同,因为使用人工智能来检测网络欺凌是独一无二的。”相比之下,其他反网络欺凌的应用程序则使用关键词来检测欺凌、不恰当或威胁性语言。

检测人工智能已经接受了6万多条推文的训练,不仅可以识别侮辱性语言,还可以识别挖苦、排斥恶霸等微妙手段的使用,否则这些手段很难通过关键词检测。

“它使用了一个分布式的基于云的架构,使得‘分类器’可以交换进出。”因此,随着更好的人工智能算法的出现,它们可以很容易地集成来改进应用程序。”

Bullstop目前支持Twitter,并计划在下一阶段推出对文本信息的支持。希望随着这款应用的持续使用和良好的效果,Facebook和Instagram等其他社交媒体平台也能加入进来,让用户从这款应用中受益。

塞米乌补充说:“Twitter一直非常支持这样的研究工作,允许像BullStop这样的应用与他们的平台安全集成,这是完成研究的关键。”我们希望其他社交媒体平台也能效仿。”

该应用程序目前处于测试阶段,这意味着研究人员会邀请该应用程序的用户提供反馈,以便他们改进。它已经被一些年轻人和包括教师、警察和心理学家在内的专业人士测试过。

一名11岁的用户说:“我喜欢当我想给别人发信息时,它可以帮我检查,因为我既不想被伤害,也不想伤害别人。此外,如果人们不想因为发送信息而陷入麻烦,他们可以使用该应用程序告诉自己发送的信息是否有害。”

一名16岁的用户说:“我喜欢你可以让联系人被信任或屏蔽,如果他们有攻击性,它可以自动屏蔽。”

一位看过这款应用的精神病医生说:“它有一个‘停止思考’的部分,对于任何没有直接想要欺负或没有欺负意图的孩子来说,这是非常积极的。”此外,我认为如果孩子们知道一个应用程序允许他们的父母访问,他们不会安装它,所以不包含父母监控的决定是正确的。”

西米德兰兹郡警方网络犯罪组的发言人说:“我的第一印象非常好。作为一个用户,或者甚至作为一个监护人,我可以浏览这个应用程序并很快理解这个应用程序想要实现什么。我认为它没有家长或配套应用这一事实应该被用作一个卖点。如果有人在网上被欺负,我一定会推荐这个应用程序给他们,如果这个工具是公开的,那么我可以看到,这将是警方可以推荐作为保护工具的东西。”

一名测试了这款应用的当地全科医生补充说:“现在我知道BullStop可以使用了,我可以推荐它了,因为它把我们给病人和他们父母的建议变成了现实。”例如,我们会建议他们阻止冒犯的联系人,并审查连接请求。拥有这样的东西能让年轻人重获一些控制权。”

Bullstop是免费的,现在可以在GooglePlay上下载。

您可能还会对下面的文章感兴趣: