撰文:AnnaFell?nder,anch.AI的创始人、ETHICALAIGOVERNANCEGROUP委员会成员
2023年2月,欧洲议会AI伦理领域的顾问AnnaFell?nder在欧盟委员会官网发表了《ChatGPT’srapidentry–UrgentforthegovernmenttoappointanauthorityforresponsibleAI》,提出了关于为什么要对生成式AI进行监管的背景、原因和解释。笔者认为,这篇文章很有可能代表了未来欧盟委员会对生成式人工智能的监管方向之一,我们看这篇,也主要是作为一个国际动向进行关注。
全文如下:
最近新发布的人工智能方案ChatGPT,以一种全新的方式挑战着所有人。随着生成式AI系统创造的机会,我们同时也面临着具有历史意义的十字路口:
欧盟委员会考虑限制稳定币发行:金色财经报道,根据一份文件,欧盟委员会在考虑对稳定币取代法定货币广泛使用的能力进行严格限制。欧盟财政部长提出了强硬措施,旨在阻止稳定货币取代欧元,并要求,如果单日交易量超过100万或交易金额超过2亿欧元,就停止发行。该文件被标记为“非纸面文件”,意味着它不反映委员会的正式立场。欧盟议员和政府正试图敲定具有里程碑意义的加密货币法律,即《加密资产市场监管》(MiCA),委员会将在后期进行闭门谈判。 (coindesk)[2022/5/12 3:08:39]
也就是,究竟是人工智能来控制人类,还是人类来控制人工智能。
瑞典的企业和当局,需要对人工智能采取Ethicalapproach,也就是伦理学上的考量,但最重要的是,需要建立风险评估框架,来支撑这种发展,从而指导符合人类价值观的人工智能解决方案的发展。
法国财长勒梅尔:欧盟委员会必须为加密货币制定强有力的规则:法国财长勒梅尔表示,欧盟委员会必须为加密货币制定强有力的规则。(金十)[2020/9/11]
此外,欧盟人工智能立法,对发展负责任的人工智能来说,指日可待,而政府迫切需要组建发展负责任的人工智能机构。
ChatGPT和其他生成式人工智能系统
首先,创造了人们内心期待已久的人工智能民主化,更多的人可以参与进来这次技术带来的迭代,自己去创造由算法在历史数据上生成的新内容。各个组织实现AI技术价值的门槛显著降低,新的创新商业模式也层出不穷,能够有效地加强客户和人们的关系。
同时,所有个体和社会,每天都面临着由于不受监管的人工智能解决方案,从而导致的道德和法律问题。其中一个原因是,人工智能模型的学习是基于历史数据,而其中,很可能存在不必要的偏见,这种偏见,可能导致社会排斥和歧视,包括其他的违规行为。
动态 | 欧盟委员会调查Libra要求回答金融稳定到反恐等大量问题:据外媒最新消息,对于Facebook准备发行的天秤币,欧盟委员会已经出手干预,已经向Facebook提出了一系列广泛的问题。迄今为止对于Facebook的天秤币计划,欧洲法国、德国等国家,以及欧洲央行等机构还停留在“表态质疑”的阶段,尚未展开详细的调查。
英国一家权威媒体称,欧盟委员会已要求Facebook回答一系列关于天秤币的问题,包括对金融稳定和民众数据隐私的带来的风险,以及该公司以后符合遵守反恐融资规定和防止犯罪组织的能力。[2019/10/7]
比如说,当我们这些个体,批准自己数据在某种情况下被使用时,可能并不会意识到,当我们自己的数据与其他数据结合时,算法如何创造出侵犯个人隐私的见解。
欧盟委员会副主席Valdis Dombrovskis:敦促全球范围内的加密货币监管行动:欧盟委员会副主席兼金融服务和资本市场联盟专员Valdis Dombrovskis,正敦促对加密货币实施更广泛的监管制度,并表示如果在如何监管加密货币这一问题上没有达成全球共识,那将会对欧盟的单独行动带来不利影响。[2018/3/3]
注意:这对公司和各国政府来说,代价都很高,例如可能会撤回投资,或者导致声誉受到损失。最近的案例表明,2021年,由于人工智能解决方案错误地指责接受父母保险的父母是欺诈。此外,还有个基于OpenAI的GPT-3的医疗聊天机器人被发出测试,其结果是建议病人自杀。
参考资料:GPT-3medicalchatbottellssuicidaltestpatienttokillthemselves|BoingBoing
生成式人工智能系统,比其他人工智能解决方案具备更高程度的道德风险暴露。其中一个原因是,生成式人工智能系统的使用往往是通过API进行的,这使得解决方案的透明度很低,并且,对它的发展难以控制。
同时,道德和法律方面的违规行为,通常发生得很微妙,也很突然,虽然这些违规行为可能会小到无法察觉,但是极有可能造成指数级的损失。
其中一个例子是深度造假,比如说,被用来操纵视频或照片中的面孔和声音。而要注意到的是,生成式人工智能模型通常以API的形式提供,这就可以使用户更容易获得和使用该技术,这可能会增加滥用的风险。
需要承认的是,基于API的生成性人工智能模型本身并没有风险,但它们的使用方式和训练的数据会使他们具备风险。
欧盟的人工智能立法,即《人工智能法案》,将于2024年正式生效。
《人工智能法案》的目标,是让公民和消费者感到信任,并维护欧盟包括人权在内的价值基础。欧盟委员会在《人工智能法》中提议,成员国必须任命或建立至少一个监督机构,负责确保「必要的程序得到遵循」。
随着生成式人工智能系统逐步出现的巨大潜力,尤其是在医疗保健方面,例如正确诊断和优化疾病的治疗,关键是,要有可用的风险评估框架,并任命一个负责任的机构。
人工智能的伦理框架,为所有部门创造了一个高度的创新环境。因此,有关机构迫切需要任命这一负责机构,并提供风险评估框架,以便瑞典企业和瑞典当局不会像GDPR那样对人工智能法案缺乏警惕性。
https://futurium.ec.europa.eu/en/european-ai-alliance/blog/chatgpts-rapid-entry-urgent-government-appoint-authority-responsible-ai
Artificialintelligence:hugepotentialifethicalrisksareaddressed|News|EuropeanParliament(europa.eu)
Welcometoanch.AI-AIandEqualityinPublicAdministration-areportbyanch.AIandtheSwedishGenderEqualityAuthority.
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。