欧盟立法者制定生成式AI透明度规则,同意禁止公共场面面部识别_LIB:LIBRA

来源:澎湃新闻

作者:吴天一

图片来源:由无界AI工具生成

·更新后的草案引入了旨在监管“通用人工智能”的新措施,适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统。大模型的创建者必须公开训练人工智能使用的数据,以确保其使用受版权法保护的数据训练。

·“鉴于人工智能将对我们的社会和经济产生深远影响,《人工智能法》很可能是这项任务中最重要的立法。这是全球第一项此类立法。”

欧洲议会两个委员会当地时间5月11日通过《人工智能法》提案的谈判授权草案。草案就对ChatGPT等生成式人工智能大模型的一系列要求达成一致,标志着欧盟对人工智能实施强监管方面又迈出了一步。

加密货币交易所Roqqu宣布获得欧盟虚拟货币许可证:金色财经报道,尼日利亚加密货币交易所Roqqu宣布,它获得了获得欧盟虚拟货币许可证,可以在 28 个欧洲国家提供服务。该许可证允许Roqqu用户(包括非尼日利亚人)交易数字货币以及参与NFT市场。[2023/1/5 9:52:53]

新文本将严格禁止“对人类安全造成不可接受风险的人工智能系统”,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。

草案提出了新的保障措施,并禁止各种危险用例,包括禁止在公共场所进行大规模面部识别程序,以及禁止使用预测性警务系统。草案还要求建立一个公共数据库,记录政府部门部署的“高风险”人工智能系统,公开数据,以便公民能够了解他们将何时以及如何受到这项技术的影响。

欧盟官员:MiCA法案将防止Terra式崩溃,并像监管加密货币一样监管NFT:金色财经报道,欧盟委员会(EC)技术创新和网络安全政策顾问Peter Kerstens于8月9日表示,在MiCA法案的规定下,Terra生态系统400亿美元的崩溃不会发生,该法案要求稳定币项目更加透明,并允许客户根据要求提款。同时,拟议的MiCA法案也没有忽视NFT,

Kerstens称,新法律将要求 NFT 的发行人发布一份白皮书,详细说明底层协议的所有细节,并禁止对其未来价值做出误导性和过度承诺的声明。[2022/8/11 12:19:23]

这一草案将于6月中旬提交欧洲议会全会表决,之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。欧洲议会的声明说,一旦获得批准,这将成为全世界首部有关人工智能的法规。

欧盟委员会计划为Libra等全球加密货币制定强有力的监管规则:欧盟委员会宣布,计划在2020年晚些时候出台新规定,在欧盟发展一个“健全”的加密资产市场。据金融服务专员Valdis Dombrovskis称,这些计划包括稳定币,比如Facebook的Libra。加密资产通过提供更便宜和更快的支付,给消费者和企业带来好处。但媒体Euractiv提到,监管机构正试图赶上这些快速发展的数字货币市场。

欧盟委员会呼吁对包括Libra在内的数字货币采取“适度”和差异化的监管方式。在这一新制度下,规则将与风险水平成比例。风险较低的项目将面临更宽松的规则,而对于Libra等全球加密货币而言,鉴于它们可能在金融稳定和货币政策方面带来挑战,因此规则将更为严格。(The Paypers)[2020/6/25]

要求ChatGPT等承担新的义务

欧盟市场监管机构提高对加密金融衍生品要求:欧洲证券和市场管理局(ESMA)在昨日宣布的一项声明中,加强了对加密货币的差价合约(CFDs)的要求。

CFDs是一种期货合约中的一种安排,即以现金支付而不是实物商品或证券的交割来结算。它被认为是一种更容易的结算方式,因为所有的收益和损失都是用现金支付的。这也给了投资者同样的风险和安全保障,因为他们并没有实际拥有。[2018/3/28]

该草案由两个关键委员会批准:内部市场委员会和公民自由委员会。这些委员会由负责监督立法制定的欧洲议会议员组成。他们最终以84票赞成、7票反对、12票弃权批准了完成的草案。

“在草案中,欧洲议会议员旨在确保人工智能系统由人监督,且确保其安全、透明、可追溯、非歧视和环保。他们还希望对人工智能有一个统一的定义,旨在保持技术中立,以便其可以适用于现在和以后出现的人工智能系统。”欧洲议会在一份新闻稿中说。

欧盟集团正在准备“数字经济”税收制度:欧盟主席让·克洛德·容克(Jean-Claude Juncker)和欧洲货币基金组织(ECOFIN)等欧盟政府机构认为,需要制定一个面向“数字经济”的税收政策。如今欧盟各机构正在参与设计这样一个税制,很可能会影响到区块链领域和使用加密货币的企业。[2017/12/24]

修正案包括扩大禁止行为清单,以禁止对人工智能系统的“侵入性”和“歧视性”使用,禁止行为包括:在公共可访问空间建立实时远程生物特征识别系统;使用远程生物特征识别系统,唯一的例外是执法部门起诉严重犯罪,并且只有在司法授权后;使用敏感特征的生物识别分类系统;预测性警务系统;执法、边境管理、工作场所和教育机构中的情感识别系统;从社交媒体或监控摄像头中抓取生物特征数据以创建面部识别数据库。

除了禁令之外,更新后的草案还引入了旨在监管“通用人工智能”的新措施,适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统,其中包括GPT-4和ChatGPT等语言模型,以及StableDiffusion、Midjourney和DALL-E等人工智能图像生成器。

根据拟议的立法,人工智能大模型的创建者需要在人工智能使用之前进行评估并减轻各种风险,包括评估训练人工智能系统可能造成的环境损害。相关公司必须公开训练人工智能使用的数据,以确保其使用受版权法保护的数据训练。

有业内人士认为,版权问题可能会在美国产生重大影响。在美国,版权所有者已经对未经同意使用其数据的人工智能图像生成器提起了一系列诉讼,许多科技公司,如谷歌和OpenAI,都通过拒绝披露训练系统的数据来避免这类法律挑战,若欧盟要求公开训练数据,则可能会产生新的诉讼。

《人工智能法》草案的另一个关键条款是创建一个“高风险”人工智能系统的数据库,以公开人工智能系统在欧盟的部署地点、时间和方式。“这个数据库应该是自由、公开且易于理解的。”草案中提到,“数据库还应方便用户使用,易于导航,至少具有搜索功能,允许公众在数据库中搜索特定的高风险系统以及相关的位置、风险类别等。”

创建这样一个数据库一直是数字权利活动人士的长期需求,他们表示,公众经常在不知不觉中被大规模监控系统进行实验,或在未经同意的情况下被收集数据来训练人工智能。

“其中一个大问题是,在伤害事件发生之前,我们对正在使用的人工智能系统一无所知。”非营利组织Access的高级政策分析师丹尼尔·卢弗说。他举了荷兰福利丑闻的例子,荷兰政府使用的一种算法错误地就数千张未支付税单发起诉讼。他表示,该数据库将帮助欧盟公民用信息武装自己,并使个人和团体更容易使用法律手段保护自身合法权益。

欧盟成员国还有重大分歧

对于人工智能监管的一系列想法已经在欧盟酝酿多年,投票结束后,联合报告员兼欧洲议会议员德拉戈斯·图多拉奇在一份声明中评论说:“鉴于人工智能将对我们的社会和经济产生深远影响,《人工智能法》很可能是这项任务中最重要的立法。这是全球第一项此类立法,这意味着欧盟可以引领人工智能以以人为本、值得信赖和安全的方式发展。我们一直致力于支持欧洲的人工智能技术发展,为初创企业、中小企业和行业提供成长和创新的空间,同时保护基本权利,加强民主监督,确保成熟的人工智能治理和执法体系。”

“该草案具有全球意义。”数字倡导组织欧洲数字权利的高级政策顾问萨拉·钱德告诉科技媒体TheVerge。正如钱德所说,这些法律很可能会影响世界各国。欧盟是一个十分重要的市场,许多科技公司经常在全球范围内遵守欧盟特定的法规,以减少同时遵守多套法规带来的损耗。

不过,该草案仍可能发生变化,在5月12日获得欧盟议会委员会的批准后,草案将在下个月面临全体会议投票,然后进入三方会谈,涉及欧盟成员国和欧盟政府机构的闭门谈判。

欧洲数字权利组织的高级政策顾问艾拉·雅库伯斯卡说:“许多成员国政府热衷于保留进行生物识别大规模监控的能力。但我们也看到了奥地利和德国的不同意见,他们都赞成在《人工智能法》中加强对生物识别数据的保护。我们听说有传言说,其他几个国家愿意在生物识别条款的方向上做出妥协。这给了我们希望,三方会谈将取得积极成果,尽管我们当然希望几个会员国作出强有力的反击。”

钱德表示,数字权利活动人士最看重的是对生物识别监控和预测性警务系统的禁令,将在三方会谈中引起“重大分歧”。“成员国认为,人工智能的这些用途对于打击犯罪和维护安全是必要的。”钱德说。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

金智博客

[0:15ms0-6:146ms