Meta 目前致力于开发技术,帮助识别这些账户可能参与性勒索诈骗的位置。科技巨头 Meta 推出了一系列新的人工智能工具,通过其 Instagram 平台过滤掉不想要的图片,并致力于阻止威胁行为者
Meta 的新功能正处于测试阶段,旨在帮助保护年轻人免遭性勒索和私密图像滥用。
人工智能工具旨在让潜在的诈骗者和网络犯罪分子更难找到青少年并与他们互动。此外,Meta 正在测试新方法,帮助人们发现诈骗行为并鼓励他们举报。
为了帮助其他科技公司打击互联网上的此类犯罪活动,Meta 还开始通过其创始成员之一的 Lantern 平台分享更多有关恶意社交媒体账户的信号。
此前,Meta 刚刚发布一系列新公告,作为其对 AI 基础设施不断增加的投资的一部分,其中包括其最新的 AI 芯片,旨在提升其产品和服务的体验。
使用人工智能识别和阻止网络犯罪分子
这些新工具的一个重要特点是,拥有 Facebook、Instagram 和 WhatsApp 的 Meta 已确认将开始在其 Instagram 平台的直接消息 (DM) 中测试裸体过滤器。
如果用户收到露骨图片,该过滤器会发出警告,或弹出消息提醒用户向网上其他人发送此类内容的危险。该功能将成为 18 岁以下用户的默认功能,可自动模糊处理 AI 检测到的包含不良内容的图片。
图片:Meta
该工具旨在利用设备上的机器学习来分析图像是否包含裸露内容。这意味着它将在端到端加密聊天中工作 – 因此,只有当用户选择向公司报告时,Meta 才能看到图像。
随后,Meta 还宣布正在测试新的检测技术,以识别可能参与性勒索诈骗的账户。该公司将限制他们与平台上所有人互动的能力,但旨在特别保护年轻用户。
可疑账户将被 Meta 隐藏甚至屏蔽,任何与该账户互动的人都会收到一条弹出消息,引导他们寻求支持。
图片:Meta
Meta 在公告中表示:“金融性勒索是一种可怕的犯罪行为。我们多年来一直与专家密切合作,包括那些在打击此类犯罪方面经验丰富的专家,以了解诈骗者在网上寻找和勒索受害者时使用的策略,这样我们就可以开发有效的方法来帮助阻止他们。
“这些更新建立在我们长期以来的工作基础之上,旨在帮助保护年轻人免受不必要或潜在有害的接触。”
构建负责任的技术未来
从历史上看,Meta 团队一直致力于调查和破坏在线犯罪网络。他们通过禁用犯罪账户并向执法部门举报来做到这一点,仅去年一年就举报了多个犯罪网络。
该公司目前致力于开发技术,帮助识别这些账户可能参与性勒索诈骗的地方。这将基于一系列可能表明犯罪行为的信号。
Meta 一直致力于确保自己始终处于负责任的 AI 领域的前沿。2024 年 1 月,该公司宣布已开始对其下一代生成式 AI (Gen AI) 模型 Llama 3 进行训练,以开发通用人工智能 (AGI)。
马克·扎克伯格当时表示:“我们的长期愿景是打造通用智能,负责任地开源,并使其广泛可用,以便每个人都能受益。”
“打造最好的人工智能助手、面向创作者的人工智能、面向商业的人工智能等等 —— 这需要人工智能各个领域的进步,从推理到规划、从编码到记忆和其他认知能力。”
******
请务必查看最新一期的《AI Magazine》 ,并订阅我们的全球会议系列 – Tech & AI LIVE 2024
******
AI Magazine 是BizClik旗下品牌