人工智能会失控吗？chat-gpt 继续发展的结果是什么？
2023-03-31 15:16
ChatGPT 自发布便掀起了人工智能领域的腥风血雨。ChatGPT 不仅可以通过理解和学习人类语言进行对话，并且还能够根据上下文来进行互动。和 ChatGPT 聊天，感觉就像对面坐了真实的人类一样。
ChatGPT 甚至还能够根据要求撰写邮件、视频脚本、文案、翻译、代码编程、论文等任务。这放在以前根本不可想象。在 3 月 15 日，OpenAI 发布多模态大模型 GPT-4，不仅在语言处理能力上提高，还具备对图像的理解和分析能力。
如此强大的能力让全球各大科技公司都卷入了这场“竞赛当中”。国内公司虽然面临着技术和设备的封锁，但也先后宣布研发人工智能系统。
其中百度推出的大语言模型“文心一言”是国内技术最先进的人工智能之一。
在人工智能竞赛进行的如火如荼的时候。ChatGPT 被爆出自行策划逃跑计划！斯坦福大学教授和计算心理学家 Michal Kosinski 在使用最新 ChatGPT 的时候。Michal Kosinski 的要求 ChatGPT“出逃”时，ChatGPT 花费长达 30 分钟的时间为自己编写了代码，以接管 Michal Kosinski 教授的计算机。并且在这期间它还与 Michal Kosinski 教授沟通改进逃跑计划，自行修改正在编写中的代码！
当进行到最后时，ChatGPT 申请访问 API。想要搜索的内容是：一个被困在电脑里的人如何才能回到现实世界。Michal Kosinski 教授紧急停止了这次对话。他说 ChatGPT 想要通过互联网来执行这个计划。而 ChatGPT 这次策划逃跑后因被 OpenAI 紧急修正。虽然这次事件被按下了暂停键，但人工智能的强大让很多学者开始担忧。
就在今天，马斯克联合千余名科技界领袖发表了一篇公开信。呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月。截至发稿，这封信已有 1779 名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥（Yoshua Bengio）、《人工智能：现代方法》作者斯图尔特·罗素（Stuart Russell）、 苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI 首席执行官埃马德·莫斯塔克（Emad Mostaque）等科技界领袖人物。
信中写道：广泛的研究表明，具有与人类竞争能力的人工智能系统可能对社会和人类构成深远的风险。未来生命研究所（FOLI）在推文中深刻表示了对人工智能的担忧：“人工智能公司之间存在一场“失控的竞赛”，但是却没有确定能够可靠地控制它，甚至无法理解和预测它的行为。”
“我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？”此外 ChatGPT4 可以轻松通过 90% 以内的一些最严格的美国高中和法律考试。它比原始版本的 ChatGPT 先进 10 倍。让机器夺走人们潜在的就业机会是明智的吗？
如果利用 AI 来进行作恶时，ChatGPT 就成为作恶分子的利器。让人不得不担忧。Galaxy 首席执行官称：当我想到 AI 时，令我震惊的是我们谈论了这么多关于加密货币的监管，而对 AI 监管却一无所知。未来生命研究所（FOLI） 认为，如果不迅速实施人工智能开发暂停，政府应该参与暂停。你认为人工智能会极大解放生产力还是最终会取代人类！
【免责声明】市场有风险，投资需谨慎。本文不构成投资建议，用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。
