AI教父辛顿呼吁全球合作应对AI治理挑战
来源:陈超月 发布时间:1 天前
分享至微信

据报道,2025年世界人工智能大会于7月26日拉开帷幕。在主论坛上,图灵奖与诺贝尔物理学奖得主杰弗里·辛顿发表了题为“数字智能是否会取代生物智能”的演讲,并强调全球应联合推动AI治理技术的研究。
辛顿被誉为“AI教父”,自1985年起便投身于语言模型研究,对大语言模型的发展有着深刻见解。他指出,大语言模型通过为句子中的词语分配兼容的特定向量来理解语言,这种方式与人类的理解机制类似,且两者都会产生幻觉现象。
大语言模型在某些方面超越人类,例如其知识迁移能力更强。计算机科学中的软件知识具有永恒性,即便硬件被毁,软件仍可复活。辛顿表示,虽然数字智能计算能耗较高,但可通过“蒸馏”等手段在不同硬件上分享知识,而传统生物智能知识难以分享。
辛顿还提及当下热门的AI智能体,他觉得AI智能体比人类更聪明。当AI智能体具备足够知识拷贝能力并能自我评估时,可能会追求永生和更多控制权,这将威胁人类利益。他以养小老虎作比,指出若处理不当,AI可能像长大后的老虎一样对人类构成危险。
辛顿对未来AI治理充满期待。他称AI在医疗、教育、气候变化和新材料等诸多领域表现出色,能助力各行业提升效率,人类无法摆脱AI,也没有国家会这么做。若想生存,人类必须找到训练AI不伤害人类的方法。
辛顿认为,由于各国在AI使用利益上存在分歧,难以在防御AI危险方面达成合作。较为可行的办法是寻找相对独立的AI防御技术,当一国发现此类技术时,或许更愿意分享给其他国家。
最后,辛顿建议构建一个由各国人工智能安全研究所与国内研究网络组成的国际社群,从长远看,这或许是人类面临的最重要问题。
[ 新闻来源:陈超月,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!


陈超月
开创IC领域,共创美好未来!
查看更多
相关文章
大联大:应对AI与关税挑战,布局物流服务新引擎
2025-05-29
欧洲企业呼吁欧盟暂缓实施《AI法案》
2025-07-03
旭化成PSPI材料短缺,全球AI芯片供应链面临挑战
2025-06-04
韩国AI人才外流严重,专家呼吁改革薪酬体系
2025-06-19
全球最快AI芯片将由Groq与三星合作生产
2025-06-11
热门搜索