无论是喷子、种族主义、性别歧视、打酱油，还是普通的骚扰，互联网都存在不良行为问题。加州理工学院和视频游戏发行商动视出版公司的研究人员正在合作，将他们的专业知识结合起来，解决视频游戏中的这种行为。

由于这种有害行为使互联网成为一个令人不快的地方，多年来有许多尝试来确保人们在网上表现良好。在互联网的早期，网站通常依赖于版主(志愿者或工作人员)，他们受过培训，以保持讨论和内容的文明和适当。但随着互联网的持续发展，有害行为变得更加极端，版主显然需要更好的工具。

越来越多的网络世界正朝着自动审核工具发展，这些工具可以在不需要人工干预的情况下识别辱骂性的词语和行为。现在，来自加州理工学院的两名研究人员，一名是人工智能(AI)专家，另一名是政治科学家，正在与动视(Activision)合作进行一项为期两年的研究项目，旨在创建一种可以检测在线虐待行为的人工智能，并帮助公司的支持和审核团队打击这种行为。

这项赞助研究协议包括布伦大学计算和数学科学教授阿尼玛·阿南德库马尔，她训练人工智能驾驶无人机和研究冠状病毒;政治和计算社会科学教授迈克尔·阿尔瓦雷斯(Michael Alvarez)曾使用机器学习工具研究社交媒体中的政治趋势;以及动视的数据工程师，他们将提供玩家粘性和游戏驱动数据的洞察。

阿尔瓦雷斯和阿南德库马尔已经合作训练人工智能来检测社交媒体上的恶意言论。他们与《使命召唤》电子游戏团队的合作项目将允许他们开发类似的技术，以潜在地应用于游戏领域。

阿尔瓦雷斯说:“在过去几年里，我们与阿尼玛·阿南德库马尔的团队的合作非常富有成效。”“关于如何使用大数据和深度学习来识别有害的对话和行为，我们已经学到了很多。这个新方向，以及我们在动视的同事们，给了我们一个机会，将我们所学到的知识应用到一个新的重要领域——游戏领域——研究有毒行为。”

对于Anandkumar来说，这项研究将回答的重要问题是:“我们如何实现透明的、对社会有益的、没有偏见的人工智能?”以及“我们如何确保每个人都有一个安全的游戏环境?”

她补充说，与动视的合作不仅让研究人员获得了人们在在线游戏中如何互动的数据，还让他们获得了专业知识。

“我们想知道玩家是如何互动的。他们使用哪种语言?他们有什么样的偏见?我们应该找什么?这需要领域专业知识。”

动视的首席技术官迈克尔·万斯(Michael Vance)表示，该公司很高兴能与加州理工学院合作。

万斯说:“我们的团队在打击破坏性行为方面继续取得巨大进展，我们也希望在未来的道路上走得更远。“这次合作将使我们能够在现有工作的基础上，探索这一领域的研究前沿。”

注：本文由院校官方新闻直译，仅供参考，不代表指南者留学态度观点。