Roblox、EA高管访谈：如何保障游戏和元宇宙的安全？

「点击上方"GameLook"↑↑↑，订阅微信」

元宇宙需要回答的一个问题，就是如何保证孩子们的安全。现在的新生代都伴随技术长大，而技术本身也是不断增长和变化的。很大可能是，如今的元宇宙想要真正大规模普及，可能就是在年轻人之间。

这就意味着安全问题是必须解决的，最近举行的元宇宙儿童信任与安全业内活动中，ActiveFence解决方案策略副总裁Tomer Poran、Roblox营销与礼仪副总裁Tami Bhaumik和EA玩家连接、积极游戏高级总监Chris Norris，谈到了如何保障元宇宙安全，以及平台和开发者对于社区安全的责任等方面的问题。

图片来源：Pixabay

Roblox文明礼貌与合作关系副总裁Tami Bhaumik表示，尽管已经有很多的安全工具和技术，但在现实中，大量的家长和教师并不知道这些监管工具的存在，“如果没有基础教育，那始终都会出现安全问题。”

EA玩家关系高级总监Chris Norris认为，社区安全需要平台、开发者以及政府和社会等多方参与，平台需要主动监管，但内容创作者也需要做出他们的努力。

以下是Gamelook听译的全部内容：

元宇宙安全需要平台、开发者、政府监管共同努力

Q：在你们的平台，安全设计意味着什么？

Tomer Poran：我可以先说一下，我们是给其他平台提供安全解决方案的供应商，帮助平台保护平台和用户远离不良行为者和有害内容等活动，包括仇恨言论、违法行为以及虐待儿童等行为。最近几年来，游戏内以及游戏平台的用户生成内容（UGC）大量出现，我们认为这既带来了大量的增长机会，同时也藏着很多风险，这就是我们聚焦的风险。

Tami Bhaumik：我是Roblox礼仪与合作关系副总裁，《Roblox》是一个技术平台，为年轻人提供免费工具创作体验，我们有超过5000万DAU，我们是个全球化平台，有数百万个体验全部都是由平台这些优秀的创作者打造，我们从2006年就已经在运营了。

对我们来说，安全对我们所做的任何事来说都很重要，我们开始的时候，大部分创作者都是孩子，所以安全性对我们至关重要，我们看重PII以及所有的安全策略。在与第三方、学术机构、研究人员等合作的时候依然很重视这一点，确保我们在安全技术方面不断创新。

Chris Norris：我是EA玩家连接、积极游高级总监Chris Norris，EA是一家横跨多个品类的全球发行商，非常荣幸的是我们积极游戏团队是个新成立的部门，致力于为全球玩家社区创造一个安全的游戏环境。

我们是个非常新的团队，所以负责很多方面，比如玩家政策、信任与安全、社区、包容性设计等等，我们从玩家角度来确保是什么让游戏体验受欢迎、安全以及令人满足，以及这些对我们的玩家社区意味着什么。

Q：我想谈谈平台与开发者们的交叉点，如果我们考虑谁应该为用户的安全负责，在美国这个答案是父母，很明显政府在扮演越来越重要的角色，然后是平台和硬件生产商，再其次是Roblox和EA这样的平台。我希望知道的是，对于开发者和平台来说，谁负责什么事？如何合作才能给用户带来共有体验？

Tomer Poran：这是个有趣的问题，之前在Web2时代，是平台直接对用户负责，如今是三维的，有了创作者，我觉得责任应该是平台和创作者共同承担的，平台应该提供工具，让创作者保护其社区安全，平台也应该监管创作者，确保他们在安全方面做得更好。

还有一个方面是用户本身，不良行为也会影响用户体验，而且这个问题比较复杂，他们有时候会跳过平台限制，让平台不得不思考新对策，所以要找到平台责任的边界是很有趣的。如果用户遭遇不安全行为，他们应该向创作者举报，如果是因为创作者，则可以向平台报告问题，这是从用户角度来看。

Tami Bhaumik：我认为我们处在一个非常有趣的时代，而且变化很快。我觉得平台对用户安全体验有着很大的责任，安全问题应该分为三个方面，首先作为平台，我们应该提供安全保护工具并不断创新，并且从安全角度评估、让一切变得更好。

尽管如此，我们也认为越来越民主化，UGC就是未来，我们希望给创作者和开发者们提供对应的工具、创造丰富多彩的体验，并且有工具审核他们的体验，因为没有一刀切的方案，我们需要从科技创新角度确保创作者打造他们想要的舞台。

第三方面是政府监管，我们从以往的经验学到了很多，行业在Web1和Web2时代犯了很多错误，我认为学习教训是一方面，政府监管也不能缺席，这需要与行业合作、反映实际情况，帮助监管者、立法者制定切合行业实际、考虑所有人的政策。

Q：有这么一种情况，用户遇到了问题，他们向很多方面反馈问题，但都得不到解决，这种情况下该怎么办？

Tami Bhaumik：我们有数千名审核员，有强大的监管和支持团队处理这些请求，通常情况下这些请求是无法操作的，因为缺乏足够的信息，他们没有给我们足够的证据让我们采取行动，这时候我们会进一步调查。

Chris Norris：我觉得有两种情况，我们希望让政策清晰易懂、代码规范简单明了，与此同时，我们还希望赋予社区自我管理的能力，所有这些工具当然是要到位的。另一方面，还需要有监管，当然，我们并不希望对社区发生的事情过度敏感，我们提供了工具和渠道，让不同的人们在这些地方讲述自己的故事。

图片来源：Pixabay

工具普及是个大问题：很多父母不知道家长控制功能

Q：就像在现实中那样，没有一个市长喜欢罪犯，至少没有谁这么说过，但犯罪仍然不会消失，只能通过加强治理来减少。作为平台，当你的用户达到数百万甚至上亿之后，应该如何维护玩家社区的安全？

Tomer Poran：没有100%的答案，就像洛杉矶警察局也不敢保证完全制止犯罪那样，平台同样无法禁止所有的不良行为，但我们可以做得更好，比如欧洲的政府监管、美国的立法，平台也在投入对的项目、团队和功能保证玩家体验的安全。

但是，我们不应该对安全问题感知过度，Roblox除了游戏之外，还变得越来越社交化，Web2时代的社交网络学到了很多教训，我们能做的就是尽最大的努力，将安全保护做的更好。

Tami Bhaumik：作为平台，我们认为Roblox有义务告诉孩子们，什么是数字公民权，Web1和Web2时代的问题，是因为那时候还是蛮荒时代，现在我们知道了这些问题。我经常告诉家长和老师们的一件事，就是发现他们根本不知道家长控制以及相关的功能，我认为任何一个平台的家长控制功能使用率都很低。

这是个问题，因为技术已经做好了，聪明的工程师们努力创新安全技术，但它们却没有被使用、甚至没有让人们知道，这就会出现问题。我的一部分日常，就是告诉家长和老师们如何使用这些管理功能，当他们遇到不良行为的时候如何处理，我觉得我们有责任和义务，来帮助社会参与其中。

Q：这是一个很典型的问题，其实不只是游戏，包括社交软件也都做了家长控制这样的功能，但美国有3亿多人，其中很多都不知道它们，更不用说全球范围了。将这些功能告诉所有人是个重大挑战，不管你的平台有多大。你们对这件事怎么看？

Chris Norris：我觉得这个问题看情况而定，首先主要看你如何定义犯罪。我们的团队叫做积极游戏而非消极游戏，我们的主要责任，就是让玩家行为带来的破坏性最小化、建设性最大化。实际上，在游戏不良表现的用户只是很小的一部分，但其他用户遇到了就会得到不好的体验，我们需要让规则尽可能清晰，而且确保限制的是特定行为、而非具体个人，这一点很重要。

Q：开发者以及创作者们的责任是什么？他们该怎么做才能保证社区的安全？

Tomer Poran：我觉得首先你要有意愿让社区按照你想要的方式表达或者行动，比如有些人不喜欢讨论政治，你要确保社区可以让人们很方便地选择进入或者退出，通过平台提供的工具尽自己最大的可能来保证社区安全。

Tami Bhaumik：在Roblox，我们有一个社区关系团队，他们认识大量的开发者和创作者，我们有非常清晰的政策，不断被加强。当你给了开发者和社区能力之后，他们会在多大程度上自我管理？多少人会相互告知？相互支持的社区很重要，我们聚焦的一点，就是确保政策的清晰度和连贯性，确保社区意识到它们。

另外，要确保有余地，让开发者们用他们创作的体验，来制定自己喜欢的文化氛围，但与此同时又不跨越政策红线。只要他们遵守我们的政策和指南，Roblox就不会过度干涉，让开发者和创作者成为他们创造体验的守护者。

工具和技术会不断升级，未来线上社区会越来越安全

Q：我注意到你们的头衔当中，都有正能量的词汇，我们如何通过安全的社区环境带来有趣的体验，如何能够不那么担心糟糕的事情、而是聚焦于能够创造多么精彩的体验？

Tomer Poran：从我们角度来说，我们的责任是聚焦于不良行为，并阻止它们给用户带来负面体验，平台和开发者努力打造良好行为的环境，我们的使命就是努力不让坏行为发生。

Tami Bhaumik：如刚才说的那样，不良行为只是很小的一部分，我们Roblox社区绝大部分用户行为都很积极，我的职务有一个词汇是礼貌，我觉得在未来五到十年内，我们可能会打造一个更安全、更文明的在线环境，然后是现实世界。

Chris Norris：游戏行业经常说的是不能做什么，但我觉得我们应该告诉社区，我们想让他们做什么，我们想要这样的社区？我们应该将更多的精力放在为社区赋能方面，让他们有更多的方式表达、社交。

Q：你们应该为开发者提供什么样的工具，来帮助他们形成安全积极的社区？

Tomer Poran：对于很多的平台来说，他们不可能熟悉所有文化和语言，我们的责任就是告诉平台，这些不良行为的关键词，标记这些行为并有针对性的管理，我们这些工具可以让社区管理员直接使用。

Tami Bhaumik：我们有专门的工程师团队，不断为开发者更新工具，但这是一场没有尽头的战斗。

Q：很多游戏都有年龄限制，但实际情况是，很多人会撒谎，每一款游戏或者平台都有低于年龄限制的用户，这个问题有办法解决吗？