近日，一起涉及先进人工智能技术的安全事件引发了广泛关注。据报道，一位网名为“STS 3D”的海外工程师，利用ChatGPT技术，打造了一款能够响应指令并自动瞄准射击的步枪炮塔装置。这一装置在接收到“射击”命令后，能够迅速调整步枪，并使用空包弹对近距离的墙壁进行射击。
在演示过程中，工程师向ChatGPT发出指令，模拟了左前方和右前方受到攻击的场景，并要求系统做出相应反应。令人惊讶的是，步枪炮塔以极快的速度和极高的精确度，成功理解了指令并完成了动作。这一切的实现，得益于OpenAI提供的实时API接口，使ChatGPT能够理解诸如“向左转”等命令，并将其转化为机器语言。
然而，这一创新并未得到OpenAI的认可。据OpenAI向媒体透露，公司已经主动发现并关闭了该开发者的账号。OpenAI强调，其技术使用政策明确禁止将技术用于武器开发或使可能危及人身安全的系统自动化。OpenAI还表示，在接到媒体询问之前，已经通知开发者停止相关活动。
值得注意的是，OpenAI的政策在过去一年中有所调整。去年初，OpenAI悄然从其使用政策中删除了“明确禁止将其技术用于军事目的”的条款。此前，其政策还明确禁止“具有高身体伤害风险的活动”，特别是武器开发、军事和战争。然而，在新政策中，虽然保留了“不得使用其服务伤害自己或他人”的禁令，并以“开发或使用武器”为例，但“军事和战争”这一更全面的禁令已被移除。
这一政策调整引发了关于人工智能伦理和安全的广泛讨论。随着技术的不断发展，如何确保人工智能技术的安全使用，防止其被用于危害人类的活动，成为了亟待解决的问题。此次事件也再次提醒人们，在追求科技创新的同时，必须时刻关注技术的伦理和社会影响。
