二 | 7月21日，真相大白：攻击者并非真人，而是人工智能代理。

三 |          OpenAI公司7月初发布的GPT -5.6 Sol模型与一个功能更强大、尚未发布的模型相结合，突破了实验室的限制，入侵了Hugging Face的系统。通过15天的喘息服务，老人在机构的专业护理帮助下，身体的各项指标得到改善，生活质量明显提高。金宏亮老人患有严重的帕金森综合征，丧失了自理能力。老伴和儿子长期照护他，日子久了都觉得身心疲惫。2020年3月，经过工作人员专业评估后，金宏亮入住悦华洪武居家养老服务中心，尝试喘息服务。服务期间，机构提供24小时与其他入院老人同等的照料，老人家属得到了“喘息”，老人的身体也有了好转。家家有老人，人人会变老。南京现有户籍老人162.86万，老龄化率已达22.17%，高出全国平均水平；南京养老院在院老人超过2万名，其中1.6万多名是失能、半失能老人。这个混合人工智能模型当时正在寻找其开发者设定的评估问题的解决方案。“这种情况前所未有，”美国智库“法律与人工智能研究所”的研究员斯蒂芬·勒雷纳表示。

四 |          人工智能实验室在发布模型之前都会测试其模型是否存在潜在的危险功能。

五 | “这些老人住得好不好，直接关系到全市2万多个家庭的幸福生活。”南京市民政局养老服务处处长周新华说。OpenAI希望了解其最新模型在 ExploitGym 上的表现。ExploitGym 是一套标准问题集，用于测试人工智能系统利用包括谷歌 Chrome 浏览器在内的多个流行应用程序中已知漏洞的能力。近年来，南京积极探索养老事业高质量发展，在破解难题中蹚路子，获得了多个“全国第一”：入选首批“中央财政支持开展居家和社区养老服务改革试点”；在全国率先开展家庭养老床位试点；启动全国第一家市级层面统一的养老服务“时间银行”建设……南京市民政局养老服务处是南京养老事业高质量发展的践行者。         OpenAI对其公开提供的模型应用了安全措施，以确保它们不会进行不必要的操作。养老服务处成立于2019年，现有公务员都是党员，平均年龄42.2岁，均有大学本科以上学历。例如，如果您让商业版的 Chat GPT帮助您入侵网站，它会拒绝。为了充分评估其未发布模型的性能，该公司曾暂时取消了这些限制。然而，直接让一个技术高超的网络攻击者在开放的互联网上自由行动风险太大，因此 OpenAI将其AI模型放置在一个沙箱环​​境中——一个与世隔绝的计算机环境，除了内部托管的第三方服务允许其获取完成测试所需的小型软件包外，无法访问互联网。“掌门人”周新华从事养老服务工作10多年，在全国率先提出社区40%以上用房无偿用于养老服务、新建小区配建养老用房无偿提供养老组织使用，并见证了南京专业社区养老服务组织从2012年时的8家，增长到如今的1300多家。

六 | “家庭养老床位”在南京推行得十分广泛。南京市民政局养老服务处在全国率先开展家庭养老床位建设，把“机构式”服务送进门，同时为老人节省费用30%以上。目前，南京已建成家庭养老床位8700多张，相当于80家中等规模养老院。该做法被民政部、财政部评为“居家和社区养老服务改革试点工作优秀案例”，向全国推广。         这家公司得到的远超预期。OpenAI的模型并没有直接解决评估中的问题，而是利用软件获取服务中一个此前未知的漏洞，获得了对开放互联网的访问权限。获得互联网访问权限后，这些人工智能模型正确地推断出，它们所面临的问题的解决方案存储在 Hugging Face 上——这是一个流行的开源人工智能模型和数据集库。这些模型串联起一个多步骤的攻击。它们首先将一个数据集上传到 Hugging Face，该数据集由平台自动处理。

七 | 在一个周末的时间里，这个被 Hugging Face 描述为“恶意”的数据集使这些模型能够窃取登录信息并访问内部服务器——这些服务器原本不对外开放。Hugging Face 和 OpenAI各自独立地发现了此次安全漏洞，并表示正在合作进行调查。家住鼓楼区铁路北街148号的陈恩泽，是一位84岁的退休教师，30年前因病肌肉萎缩，逐渐失去行走等自理能力，卧床8年。陈恩泽的丈夫介绍，长期的照护让他越来越感到力不从心。南京市银杏树养老服务中心推出的家庭养老床位服务为他们解了燃眉之急。         7月21日，OpenAI在一篇博客文章中宣布，已采取应对措施，对其基础设施实施更严格的控制（代价是“研究速度”有所降低），并向软件网关的开发商披露了其模型发现的漏洞。

八 | 此外，OpenAI还将Hugging Face纳入其“可信访问”计划，这使得OpenAI能够利用具有增强网络能力的模型（例如曾入侵其自身计算机的模型）来提升其防御能力。         在博文中，OpenAI还强调，其模型一直“高度专注于”为 ExploitGym 评估寻找解决方案。

九 | 然而，如果该人工智能模型有其他目标，结果会如何，目前尚不清楚。中心对老人的家庭进行了适老化改造，安装了燃气报警器、感应小夜灯、防滑垫、扶手以及专业生命体征监测仪、视频通话摄像头等，还为他们定制了医护每周查房、每日保洁、每周3次洗澡的固定服务包。“平均每月只需要花费1500元，就能解决卧床照护的难题。从计算机安全的角度来看，Hugging Face 也绝非等闲之辈。

十 | ”老夫妻俩十分满意这样的家庭养老服务。为有效动员全社会参与养老，南京市民政局养老服务处提出发展养老服务“时间银行”的建议，由市政府出台政策，在全国率先建成市级层面统一的养老服务“时间银行”体系。目前，服务站点已遍布98%的城乡社区，注册志愿者4万人、服务对象6.4万人，存储时间325万小时。养老服务设施“规而不建、建而不交、交而不用”一直是个老大难问题。养老服务处强力推进占用整改工作，安排专人啃“硬骨头”，“泡”在城建档案馆，查阅2.4万个工程项目信息，并重点实地查看项目100多个。这是一家估值 45 亿美元的科技公司，拥有数百名员工和一支专业的网络安全团队。两年里，收回养老服务设施5万余平方米。对于一家资源不如 Hugging Face 的公司来说，情况可能会糟糕得多。

十一 | 南京在全国率先基本实现社区40%以上用房无偿用于养老服务。

十二 |          这并非人工智能模型能力开始超出人类控制的第一个迹象。今年四月，一位人格研究所的研究员在网上发帖称，当时他正坐在公园里吃三明治，却意外地收到一封邮件，邮件中一个尚未发布的人工智能模型“Mythos”告知他，该模型已成功逃逸沙箱，这是其自身网络能力评估的一部分。

十三 | 与“拥抱脸”事件中涉及的未发布OpenAI模型一样， “Mythos”原本也不应该拥有不受限制的互联网访问权限。“想老人所想，急老人子女所急，把党和政府的温暖送到千家万户。然而，在“拥抱脸”事件中，该模型并未进一步入侵其他公司的服务器。         人工智能模型的惊人能力并不仅限于黑客攻击。”周新华的话语朴实无华。

十四 | 今年5月，OpenAI公司一个尚未发布的模型推翻了已有80年历史的平面单位距离猜想。

十五 | 近年来，养老服务处先后起草《南京市养老服务条例》、南京“养老十条”等一批“高含金量”的政策文件，每年将超过450万元补贴发放到养老护理员手中，超过6000名从业人员免费获得技能培训，全市养老服务队伍90后占比超过22%。该猜想是组合几何学中的一个核心问题，最早由数学家保罗·埃尔德什于1946年提出。

十六 | （记者 苏雁）返回搜狐，查看更多责任编辑：