正在引发一场革命。随着技术的不断进步,游戏中的**NPC(非玩家角色)**不再是简单的程序化角色,而是逐渐变得富有情感、记忆和推理能力。最近,盛趣游戏在2025年3月推出的国民级游戏《传奇世界》的智能NPC“玄玄老人”,为玩家带来了前所未有的互动体验。玩家不仅可以与“玄玄老人”通过自然语言进行对话,还能进行幽默的调侃,从而显著提升了游戏的沉浸感。
然而,随着大模型的引入,智能NPC的安全性问题也逐渐浮出水面。我们不禁要问:在享受智能NPC带来的乐趣的同时,如何保障玩家的安全与合规?
随着智能NPC的普及,合规性成为了一个亟待解决的问题。大模型虽然增强了游戏的互动性,但也带来了诸多潜在的安全风险。例如,NPC可能会被玩家诱导,输出暴雷火竞技力、粗俗或违背伦理的言论。更糟糕的是,如果大模型被“越狱”,可能会被不法分子利用,造成无法挽回的后果。
今年年初,某款游戏因NPC生成包含暴力诱导的对话,被多个国家下架整改,这一事件让整个行业警觉。为了避免此类情况的发生,盛趣游戏决定与火山引擎合作,建立全链路安全防线,以确保智能NPC在提供有趣互动的同时,保持合规性。
盛趣游戏与火山引擎联合打造的大模型应用防火墙,为智能NPC提供了一道坚实的安全屏障。该防火墙不仅有效保障了NPC内容输入和输出的合规性,还针对大模型特有的攻防难点展开全面防护。截止目前,该防火墙已成功拦截近10万次攻击。
火山引擎大模型应用防火墙的话题控制功能能够基于《传奇世界》的话题规划,结合实际用户与NPC“玄玄老人”的对话场景进行调优。这种调优大幅提升了大模型的泛化能力,有效避免了因游戏装备触发敏感词而导致的误拦截现象。
针对游戏行业常见的角色扮演提示词注入攻击,火山引擎能够快速识别风险并做出适当回应。例如,当玩家引导武侠NPC透露通关机密时,系统会及时引导玩家提出正确问题,以确保角色的一致性并避免数据泄露。
在游戏场景中,低延时是至关重要的性能指标。火山引擎通过与盛趣游戏的不断调试,将延时降低至100+ms,确保在安全的基础上,玩家的体验依然流畅丝滑。目前,盛趣游戏旗下《传奇世界》和《热血传奇》已经部署了火山引擎的防火墙,未来还有三款待上线的游戏将会接入。
智能NPC“玄玄老人”的推出,不仅为玩家带来了新的游戏玩法和惊喜,同时也为行业的安全性树立了标杆。通过与火山引擎的合作,盛趣游戏展现了如何在好玩与合规之间找到平衡。
总的来说,盛趣游戏与火山引擎的合作,充分体现了AI大模型在游戏行业的潜力与挑战。随着技术的不断进步,如何在保障玩家体验的同时,对智能NPC进行全面的安全防护,将是每一个游戏开发者需要面对的重要课题。
在这场关于智能NPC的革命中,你认为哪些方面最重要?是内容的丰富性,还是安全的保障?欢迎在评论区分享你的看法!返回搜狐,查看更多