首页 > 产品知识 > 产品知识 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

产品知识更多>>

禾赛迷你3D激光雷达JT系列发布:体积减70%,重量减47% 千元机新宠!华为畅享 70X带来满级通信和超长续航 手机相册误删恢复指南:多种方法助你找回珍贵回忆 AMD公开新掌机芯片组“锐龙Z2” 旗舰采用Zen5架构 英伟达个人AI超算Project Digits发布 起售价3000美元 2024年北京零售地产新增供应量创新高 上汽通用汽车申请用于标定机器人驾驶行为专利,能使机器人动作与预期车辆驾驶动作匹配 国汽(北京)智能网联汽车研究院有限公司取得车辆网络的风险确定方法、装置及相关设备专利 【经开云招聘】共享集团12月招聘 事关2025年高考体检,这些事项家长和考生需注意 10所医科大学,只有1所是211高校,为何医科大学不分985或者211? 山东有背景的13所大专 2022-2024年全国新批准成立本科高校(56+100所) 孩子的高中和哪些大学“有关系”?可以大幅降低成绩排名要求! 教还是不教 幼儿园家长很困惑 小学校长:零起点的孩子不会落后 乐寻冬至,情暖童心 宜宾江安大妙镇中心幼儿园萌娃“趣”过冬至 金华这所幼儿园爆改养老院,我们实地去看了看 凯美瑞光辉版到店,黑标黑中网黑轮毂,主打金属运动风 凯迪拉克CT5价格大跳水,明年改款推行“一口价” 小米YU7实车首曝,前后灯组有变化/配激光雷达,近5m车长/3m轴距 像不像smart精灵#5?全新奔驰GLB路试曝光 合资中大型SUV跌冒烟了!大众揽巡惠后17.28万起,还看啥汉兰达? 金属运动风颜值如何?2025款凯美瑞光辉版上市,售价20.28万起 比亚迪唐L最新路试曝光,搭激光雷达和车顶无人机机舱 车顶加飞机!疑似新款方程豹豹5曝光,或将搭载华为智驾 超九成车主不愿再回归燃油车,电车真有这么香? 2024年江西吉安市新干县事业单位招聘24人公告 2025年中国铁路沈阳局招聘3391人公告 2024年辽宁丹东市中心医院招聘27人公告 2024年内蒙古大学生乡村医生专项计划招聘292人公告