一款大型游戏创作平台在过去一年中一直利用机器学习人工智能技术对语音聊天内容进行审核。由于该游戏吸引了大量儿童用户，因此平台对内容安全的审核尤为重视。在近期举行的游戏开发者大会期间，该平台的高级技术总监基兰·巴特与语音安全负责人汉内斯·海基宁共同分享了相关经验。他们表示，虽然人工智能在审核工作中表现出色，但在某些情况下，人类仍然能够更准确地完成这项任务。
巴特在演讲中提到：“实时监控语音是一项极具挑战性的任务，因为它不仅需要理解说话的内容，还要捕捉语气和情绪的强度，以判断某段话是否具有攻击性或恶意。”他进一步解释道：“语境也是判断一段话是否冒犯的重要因素之一。因此，这是一个极为复杂的问题。”
为应对这些挑战，平台将违规内容归纳为四个主要类别，并发现85%的违规内容都可以归入这些类别。“绝大多数”违规行为可以通过识别前50个关键词来捕捉。巴特指出：“如果已经覆盖了这些类别的前50个关键词，那说明工作已经做得相当不错了。”
语音安全负责人海基宁则强调，人工智能监管的成果令人印象深刻。经过一年的运行，该系统已扩展至31个国家和地区，同时每段“活跃聊天时间”中的违规举报数量减少了一半。他指出，使用人工智能的一大优势在于其不会受到情感波动或疲劳的影响，因此在处理“显而易见的违规行为”时，机器比人类更为高效且稳定。然而，他也承认，在理解意图和做出精准判断方面，“人类依然优于机器”。
海基宁补充道：“在那些处于判定边缘的情况中，或者在数据较少、难以训练机器学习模型的罕见案例中，人类的表现仍然优于机器。因此，在这些领域，人类的专业判断依然不可或缺。”
本文属于原创文章，如若转载，请注明来源：游戏平台分享AI审核语音聊天经验：人机协作优化内容安全https://game.zol.com.cn/962/9626705.html
