首页 > 知识分享 > 知识分享 > 谁能拉好AI发展的“警戒线”

谁能拉好AI发展的“警戒线”

发布时间:2024-05-21 16:59:59

据媒体报道,近期美国麻省理工学院一个研究团队称,部分人工智能系统已经学会如何欺骗人类,其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。

尽管有研究人员称该现象对人类并未造成不利影响,但欺骗性人工智能的出现仍值得警惕。近年来,人工智能的发展就像一条平坦宽阔的高速公路,研究人员驾驶着“科技”的快车向未来全速前进。但若只顾着追求更高、更快、更强,在科研竞速中必然会导致“脱轨”与“失控”。因此,拉好AI发展的“警戒线”至关重要,而拉紧筑牢这道技术与安全的防线,需要所有参与者的共同努力。

不为科技而科技,不为创新而创新,应当是一切人工智能发展的准则和所有研发者的底线,却由于拜技主义者的抵制而一再失效。2023年6月,欧洲议会通过了全球首个AI综合性监管法案《人工智能法案》,但由于openAI、谷歌、微软等多家科技巨头以“阻碍AI创新”为由提出反对,并未成功将通用AI(AGI)列入高风险类别,导致法案无法适用于军事、国防、科学研究。

由此可见,若想真正监管AI发展,技术背后的“人”首先需要达成共识,认可彼此所肩负的共同的社会责任。风物长宜放眼量,就像医生不能只看病历,科研工作者也不能只专于技术创新。正如英国剑桥大学人工智能研究员哈利·劳所说,“监管机构和人工智能公司必须仔细权衡技术造成危害的可能性与其对社会的潜在利益,并明确区分模型能做什么和不能做什么”。在欧盟的“人脑计划”项目中,除了神经科学家、计算机科学家负责技术研发,还有伦理学家、心理学家、社会学家对大量脑数据使用的伦理问题进行评估及研究脑科学发现对社会的影响。只有不同领域的专家共同努力,才能及时洞悉事态变化,预测潜在风险,在技术发展的同时提供多元视角的保障。

其实早在2017年,一些人工智能领域的科学家、工程师、研究学者以及科技企业家们,就建立了确保AI为人类利益服务的23项原则——“阿西洛马人工智能原则”,但由于这一原则并没有被正式采纳为全球性的法律,不具有强制性和规范性,各国实施情况并不乐观。因此,在专家学者自行协定的原则之外,由能够颁布限制性文件的国际组织从国际层面发挥作用更为必要。只有拥有众多缔约国的规范性文件,才能切实有效地引导、规制人工智能技术的发展。

在人工智能发展的全球性趋势下,往往一个微小的变化就有可能引发世界范围的波动与震荡。在这场与人工智能的博弈中,没有一个国家能独善其身。科技革命加速正在进行时,只有各国、各领域、各利益主体共同努力,携手拉好、拉紧规范科技发展的“警戒线”,AI才能行稳致远,一路畅通。

知识分享更多>>

谷歌Gemini 3.1 Pro新王登场,一口气手搓Win11操作系统,造出模拟城市app,SVG效果绝了 4.769 GHz!AMD Radeon RX 9060 XT刷新显卡超频纪录 PVD“铝坨坨”:雷蛇发布猎魂光蛛Signature Edition光轴键盘 微软更新Mac版OneDrive 26.017:启用原生对话框、重塑活动中心 Gemini 3.1 Pro上线,春节AI大战硅谷更热闹 谷歌Gemini上线音乐模型 一句话即可生成歌曲 全网首例:用户反馈其iPhone Air的苹果自研5G基带硬件故障 奔驰预告全新豪华纯电MPV VLE:能自动泊车、后轮转向 全新Q5L上市、全新A6L首秀!越过千万辆之巅的奥迪,再度启航 现代帕里斯帝获得北美年度汽车! 一份年度成绩单,再证CR-V“全维度”哲学 上汽大众首款9系旗舰ID. ERA 9X亮相:一款车,一场转型的宣言 极狐乔心昱:北汽新能源自动驾驶技术全覆盖 L3级至L4级全贯通 50万内实用标杆?广汽本田新款飞度正式上市 焕新价6.68万元 央视镜头直击-21℃极寒战场!东风睿立达完成中汽冬测,破解物流冻阻难题 本田汽车近日官宣品牌标识焕新计划,沿用多年的经典\"H\"标将升级为全新设计版本,新标识定于2027年正式启用 星动纪元与顺丰科技签约,推动具身智能机器人在供应链落地 德系豪华三强,连续两年失守中国市场 万能的《甄嬛传》,在迅雷反腐这儿就失灵了? 沃尔沃EX60纯电SUV将搭载谷歌Gemini AI,配大尺寸竖屏 联发科发布天玑9500s:3nm工艺,支持硬件级光线追踪技术 消息称鸿蒙智行1月20日前后分批推送华为乾崑智驾ADS 4.1 美运营商Verizon服务中断十小时:波及数十万人,官方承诺补偿 金融时报:苹果避开AI烧钱大战,却成为谷歌与OpenAI的“造王者” 李小龙透露华为手表市场份额超手机,国内超30%使用非华为手机 贾国龙确认:西贝将关闭102家门店 “酸菜鱼之王”卖不动了? 太二亲手拆招牌,转战川菜赛道 日本霸占20年的汽车销量第一宝座,2026年被中国掀翻了? 为何中国茶业跑不出一个「茅台」? 房企聚焦核心城市“掐尖”,北上杭三城2025年土地出让收入均超千亿元