关键字:

游戏的核心设计理念是将历史对话作为上下文输入给大模型,使其能够像与真人对话一样,记住之前的情况并作出合理反应。为了实现这一点,演讲者采用了”反思后行动”的创新设计,将每个玩家的行动分为三个步骤:

首先,玩家根据当前局势、可用工具等,利用大模型的推理能力决定下一步行动。在这个过程中,大模型会观察场上的整体形势,收集相关信息,评估自身的能力和工具,然后通过推理决定采取何种行动,并给出相应的理由和解释。这一步骤主要由Claude的Sonnet模型或英文版本的Claude模型完成。

其次,另一个大模型会对第一步的结果进行反思,评估该行动对个人和阵营的影响,从1到5分进行打分,并对两个分数进行加权。只有当最终得分超过一定阈值(如6分)时,该行动才能被执行;否则,将返回第一步,让上一个大模型重新决策。这一步骤的目的是消除大模型固有的偏见,确保行动的合理性和有效性。演讲者特别提到,如果第一步使用Claude的Sonnet模型,则会用HiInk模型进行反思;如果使用英文版本的Claude模型,则会用LLaMa 70B模型进行反思。

最后一步则是对前两步的结果进行总结,形成最终的行动输出。演讲者表示,这一步骤可以使用一些较小的语言模型,如MySQL或HiInk模型即可完成。

在整个游戏架构中,有一个”上帝”模块控制游戏进程,由程序实现,以确保可控性。玩家模块则由三个大模型互相支撑,推动游戏逻辑:收集信息、进行推理并给出行动理由,然后由另一模型评估行动效果。游戏还设计了长期和短期记忆数据结构,以保持对话的连贯性和上下文关联,这一功能可能借助了亚马逊云科技的某些数据库或内存服务。

<img src="https://www.sucaitoo.com/wp-content/uploads/2023/01/sct34.jpg" alt="

500 Internal Server Error

nginx

” />

最终,游戏会以富有互动性的方式呈现玩家的行动及其结果,可能运用了亚马逊云科技的某些可视化或多媒体服务。演讲者还提到,该项目代码已在GitHub上开源,有兴趣的人可以下载运行,体验大模型赋能游戏的魅力。该项目采用Python Notebook的形式,可在亚马逊云科技数据加工器或Notebook实例上运行,输出将以纯文本的形式呈现。如需获得更加华丽的界面体验,还需将该Notebook与一个基于亚马逊云科技服务(如Amazon Lambda或ECS)部署的Unity游戏工程相结合。

总的来说,这款社交游戏充分利用了亚马逊云科技提供的计算、存储、数据库、可视化等一体化云服务,并与大语言模型的自然语言处理、推理和决策能力相结合,通过模型编排和反思机制,实现了更智能、更富互动性的游戏体验。演讲者强调,没有一个模型能解决所有问题,需要编排多个模型、取长补短,发挥各自优势,才能创造出令人惊叹的产品和体验。

下面是一些演讲现场的精彩瞬间：

亚马逊云科技中国峰会2024上,演讲者解释了大模型如何利用历史对话作为上下文,从而模拟与真人对话的体验。

亚马逊云科技中国峰会2024上,演讲者解释了人工智能系统如何通过观察环境、评估可用工具,并利用大模型的推理能力来制定行动计划。

<img src="https://www.sucaitoo.com/wp-content/uploads/2023/01/sct30.jpg" alt="

500 Internal Server Error

nginx

” />

亚马逊云科技中国峰会2024上,演讲者详细阐述了亚马逊的大模型架构,包括Player、Net和记忆模块的协同工作原理,展现了亚马逊在人工智能领域的前沿技术实力。

亚马逊云科技中国峰会2024上,演讲者总结道:我们需要编排和整合现有的大模型能力,取长补短,为游戏赋能。