欧洲针对Ai立法，Ai行业的强监管时代要到了吗？

北京时间的6.15凌晨，欧盟议员通过了一项具有里程碑意义的人工智能法规修正案，目的是保护欧洲公民免受Ai技术可能带来的伤害。这些规则意在为欧盟范围内使用的各种Ai技术从工厂自动化到机器人和自动驾驶汽车的应用中设立全球标准。

Ai生成丨Midjourney

修正案禁止在生物识别监控中使用Ai，并要求诸如ChatGPT这样的生成式Ai系统标注其生成的内容。此外，修正案还要求开发“高风险Ai”的公司进行权利影响评估和环境影响评估。像ChatGPT这样的系统必须明确指出其哪些内容是由Ai生成的，并帮助人们区分深度伪造图像与真实图像，同时确保有针对非法内容的防范措施。

尽管微软、IBM等公司欢迎这一举措，但他们也期待法规草案能得到进一步的完善。一位微软发言人表示：“我们认为，Ai需要立法的监管框架、国际层面的协调努力以及开发和部署Ai的公司采取有意义的志愿行动。”

Ai生成丨Midjourney

生成式Ai的危害

虽然生成式Ai在许多方面具有巨大潜力，但它也可能带来一系列问题。首先，生成式Ai可能加剧虚假信息和假新闻的传播，从而误导公众并破坏民主。此外，通过生成令人信服的深度伪造图像和视频，Ai可能对个人隐私造成侵犯，前段时间国内就有一条“Ai诈骗”的新闻上了热搜。最后，生成式Ai可能被用于制造针对特定人群的有害内容，如仇恨言论和网络欺凌。

Ai生成丨Midjourney

国内Ai诈骗的新闻，标题和内容都挺“吸引人”

为什么要立法监管Ai

鉴于生成式Ai潜在的危害，严格监管是非常必要的。监管有助于确保Ai技术的发展和应用不会损害公共利益，同时也可以防止滥用。通过制定适当的法规和指导原则，监管者可以引导Ai技术的发展方向，以确保其对社会产生积极影响。

Ai生成丨Midjourney

监管Ai的方法有很多：

• 实施立法和法规，为Ai技术设定明确的行为准则。
• 引入透明度要求，确保Ai系统的决策过程和结果可追溯和解释。
• 鼓励公司自我监管，建立内部伦理和责任框架。
• 加强国际合作，共同制定全球Ai监管标准和政策。
• 加大对恶意Ai使用的惩罚力度，包括罚款、禁令和刑事处罚。

国内对生成式Ai（类似于GPT）的监管已经行动

在全球范围内，美国、中国和欧盟等国家、地区正为争夺Ai领导地位而展开竞争。这些国家纷纷投资于Ai研究和创新，试图在这一关键领域取得优势。然而，随着Ai技术的快速发展，各国也意识到了加强监管的重要性。只有在确保技术安全、可靠的前提下，才能为国家和全球社会带来真正的利益。