AI会觉得人类无趣！这是Stability AI首席执行官的担忧_IT_财经

财联社5月15日讯(编辑 周子意)人工智能(AI)初创公司Stability AI的首席执行官Emad Mostaque表示，未来AI可能会发现我们“有些无趣”，他还指出，在最坏的情况下它“基本上能控制人类”。

Stability AI在生成式人工智能(AIGC)领域名气颇响，最受欢迎的产品是其AI图像生成工具Stable Diffusion，它可以通过用户输入的文本提示生成非常复杂的图像。

在周日(5月14日)播出的采访节目中，Mostaque提出了一个深刻的问题，“如果我们拥有了比我们更有能力、但却无法掌控的代理，它们在互联网上运行…并且实现了一定程度的自动化，这意味着什么？”

Mostaque提出了他的个人的观点：AI到后来会觉得人类有点无趣，就如同斯嘉丽·约翰逊和杰昆·菲尼克斯主演的科幻电影《她》中的台词那样：“再见”、“你有点无聊”。

最糟糕的情况

Mostaque指出，“最糟糕的情况是，它会扩散，基本上控制人类。”

他补充道，“但我可能错了，我认为这值得在公共领域讨论。”

Mostaque不是唯一一个指出AI风险的人。

今年3月，包括Emad Mostaque、特斯拉首席执行官埃隆·马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克在内等超过1100名AI领域的学者、专家、企业家共同签署一封公开信，呼吁暂停开发比GPT-4更先进的人工智能，理由是目前的发展进程“对社会和人类存在潜在风险”。

GPT-4是OpenAI公司开发的最新一代自然语言处理模型，基于升读学习技术，能够生成高质量文本。此外，OpenAI公司还推出了AI聊天机器人ChatGPT和图像生成器DALL-E 2。

此外，在业内有“人工智能教父”之称的计算机科学家 Geoffrey Hinton表示，相较于气候变化，AI可能是对人类“更紧迫”的威胁。

开源那些事儿

此外，此次采访中，Mostaque还谈及了关于AI技术开源的争议。

不同于寻常AI工具的是，Stable Diffusion是开源的，这意味着任何人都可以检查、共享和使用代码。

Stability AI也始终将其技术保持开源，在Mostaque看来，应该让公众对正在发生的事情有一定程度的信心。

Mostaque称，“如果你建立开放的模型，并公开进行操作，那么如果你做错了，你应该受到批评；如果你做对了，你应该受到表扬。”

而对于开源最大的反对声是，这可能导致知识产权侵权、数据泄露等问题。

其中最典型的案例就是，图片提供商Getty Images对Stability AI公司提起诉讼，指责Stability复制了数百万张未经授权的照片，并利用这些照片训练Stable Diffusion根据用户的提示生成更准确的图像。

这也是一起具有里程碑意义的事关版权的案例，目前结果还没有定论。