近期，通用人工智能（AGI）领域持续升温，引发了科技界和公众的广泛关注。OpenAI的首席执行官阿尔特曼认为，AGI的实现可能比预期更早，并且在现有硬件条件下就能达成。然而，前谷歌CEO埃里克·施密特对此持谨慎态度，他在本月17日接受ABC新闻采访时提出了一个令人深思的观点。
施密特担忧地表示，当AI系统具备自我改进的能力时，人类将面临一个艰难的选择：是否应该暂停其进一步发展。他提出，如果向AI系统发出“学会一切，做到一切”的指令，那么我们必须慎重考虑是否要切断其电源，以维持人类与AI之间的平衡。这不仅仅是一个技术问题，更是一个涉及伦理和安全的深刻挑战。
施密特进一步预测，AI将从目前的特定任务助手，逐步进化为能够自主决策、处理复杂问题的智能系统。在这个关键时刻，人类必须介入并考虑关闭AI系统，以防止其可能带来的不可预测后果。同时，他还强调，人类需要确保AI无法反制关闭系统的努力，以保持对AI的绝对控制。
值得注意的是，施密特并非完全否定AI的积极作用。事实上，他对AI的潜力持乐观态度。他认为，AI的发展将意味着每个人都将拥有一个博学多才的助手，这个助手可以随时随地为我们提供帮助。除了作为笔记和写作助手外，AI还将像爱因斯坦和达芬奇这样的智慧人物一样，为我们提供宝贵的建议和指导。这将是一个惠及全球每一个人的美好愿景。
然而，与施密特同样关注AI发展的还有特斯拉CEO马斯克。他在今年10月曾表示，AI“最有可能是伟大的”，但同时也存在10%到20%的可能性走向坏的一面。马斯克强调，我们不能忽视AI“变坏”的可能性，必须时刻保持警惕。
