暂停人工智能研发 不是限制技术的研究和创新

人工智能(AI)的“觉醒”可能危及人类。最近，科幻片中的担忧照进现实，有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统，提出具有人类水平智能的AI系统可能“对社会和人类构成潜在风险”。

微软首席科学官埃里克·霍维茨最近回应了马斯克和其他数千人签署的暂停人工智能发展的公开信，称发展应该“加快”，而不是“踩刹车”。

他说：“对我而言，我更希望看到更多的知识，甚至加速研发，而不是暂停六个月……从更广泛的意义上说，六个月的暂停意义不大。我们真的需要在理解、指导甚至监管这项技术上投入更多，参与进来，而不是暂停。”

3月29日，未来生命研究所发布公开信，呼吁所有人工智能实验室立即暂停至少6个月的人工智能系统训练GPT-4。这封公开信引起了很多讨论和争议。虽然许多人同意人工智能需要更多的监管和控制，但暂停发展却不是最好的解决方法。相反，应该推动人工智能技术的发展和创新，同时加强控制和监管措施，确保人工智能技术的安全和可持续性。微软CEO萨蒂亚·纳德拉在回应此事时也表示，微软一直在努力推动人工智能技术的发展，同时注重道德和法律的规范，确保安全和可靠性。

这封公开信并没有得到所有科技领袖的支持。微软创始人比尔·盖茨此前表示，暂停人工智能研发的呼吁并不能解决每个人都面临的问题。我们应该关注如何最大限度地利用人工智能技术和发展。他认为，人工智能技术已经在许多领域中发挥了极其重要的作用，例如医疗保健和环境保护。同时，他也认为应该采取措施避免潜在的负面影响，包括确保隐私和安全，防止人工智能技术被滥用。他强调，我们需要寻找平衡点，既推动人工智能技术的进步，也保护社会和个人的利益。

此外，一些科技公司也指出，暂停人工智能研发可能会导致技术进步的放缓，并失去在全球竞争中的领先地位。因此，他们主张加强对人工智能技术的使用和监管，而不是限制技术的研究和创新。在这个问题上，各方的观点存在分歧，并需要持续的讨论和探索。

更有意思的是，联名叫停人工智能训练公开信公布后不久，就有报道称，马斯克将推出一种人工智能，并称之为“TruthGPT“，甚至从NVIDIA公司获得了数千个高性能GPU。此消息一出，更加凸显了人工智能的争议与挑战。一方面，人工智能技术的潜力和应用将会带来巨大的社会和经济效益，推动我们走向数字化、智能化时代；另一方面，人工智能的算法存在风险和局限，例如算法的难以预测性、缺乏公平性和透明性等问题，这些都需要引起我们的高度重视。因此，我们需要更多的跨学科、跨领域的合作，以确保人工智能的可持续发展和服务社会的目的。

来源：有点甜@maisi.com