小鱼儿与花无缺

비드래프트 논문 하나가 만든 삼단 구조…연구·AX-RAY·국가 보안 AI_我的网站

A |     엔비디아 Nemotron-H·자이프라 Zamba2서 인과 결함 발견, 순전파 2회로 결함 층 특정해 192건 전부 탐지발견한 진단 기술을 자사 AX-RAY로 제품화, 정부 보안 특화 파운데이션 모델 사업 핵심 검증 기술로 연결                   비드래프트. 사진=비드래프트논문 한 편에서 시작된 연구 성과가 제품을 거쳐 국가 사업으로 이어지는 구조가 만들어졌다. AI 딥테크 기업 비드래프트(대표 김민식)가 공개 AI 모델의 구조적 결함을 찾아낸 자체 연구를 AI 안전성 진단 시스템 'AX-RAY'로 발전시키고, 이를 정부의 '사이버 보안 특화 인공지능 파운데이션 모델 개발' 사업 핵심 검증 기술로 제시하는 전략을 펴고 있다.출발점은 비드래프트가 지난 24일 arXiv에 공개한 논문 'The Mask Is Not the Model: Auditing Prefix Invariance in Attention, State-Space, and Hybrid Sequence Models'다. 연구진은 자기회귀 AI 모델이 원칙적으로 볼 수 없는 미래 토큰의 정보를 앞선 계산에 사용하는 '인과 누설'을 직접 판정하는 새로운 진단 방법을 제시했고, 이를 엔비디아의 Nemotron-H-8B와 자이프라의 Zamba2-1.2B에 적용해 두 모델의 PyTorch 실행 경로에서 실제 인과 누설을 확인했다.기존 검사 방식은 어텐션의 causal mask 정상 여부 확인에 주로 의존해왔지만, 최근 모델이 상태공간모델(SSM)·순환연산·합성곱·청크 스캔 등을 결합한 하이브리드 구조로 발전하면서 마스크가 정상이어도 다른 경로로 미래 정보가 유입될 가능성이 생겼다는 게 연구진의 지적이다. 새 방법은 마지막 위치만 다른 두 입력을 각각 한 번씩 순전파해 각 층의 앞부분 내부 표현 변화를 비교하는 방식으로, 학습이나 그래디언트 계산 없이 순전파 두 번만으로 인과성이 깨지는 층을 특정할 수 있다. 인위적으로 주입한 인과 결함 192건 실험에서 기존 마스크 점검은 이를 놓쳤지만, 새 방법은 192건 전부를 정확한 층 단위로 탐지해냈다.                   비드래프트. 사진=비드래프트연구는 여기서 멈추지 않았다. 비드래프트는 오픈소스 라이브러리 transformers 5.7.0의 청크 스캔 구현을 코드 수준에서 비교해 입력·출력 청크 축 처리 방식의 차이를 먼저 짚어냈고, 실제 모델 검사에서 Zamba2-1.2B는 청크 크기 256부터, Nemotron-H-8B는 128부터 누설이 시작됨을 확인했다. Bamba-9B, Falcon-H1, Granite-4.0-H, Mamba2, RecurrentGemma 등에서는 같은 문제가 나타나지 않아 코드 분석 예측과 실제 결과가 정확히 맞아떨어졌다.이 발견이 중요한 것은 인과 누설이 성능 지표 자체를 왜곡할 수 있기 때문이다. 미래 정보가 현재 예측에 유입되면 다음 토큰 예측이 쉬워져 학습 손실과 혼란도(PPL)가 좋아 보일 수 있다는 게 회사 설명이다. 벤치마크 점수만으로는 인과 결함 여부를 뒤집을 수 없다는 것이 비드래프트의 입장이다.이렇게 확보한 진단 기술은 AX-RAY로 이어졌다. AX-RAY는 벤치마크 점수 확인을 넘어 실제 실행 코드와 모델 구조가 의도대로 작동하는지, 구조적으로 위험한 경로나 비정상적인 인과 의존성이 있는지를 계측하는 시스템이다. 외부 파운데이션 모델 도입 시 가중치뿐 아니라 구현 코드와 실행 환경까지 함께 사용된다는 점에서 이 같은 검증이 필요하다는 게 비드래프트의 판단이며, 관련 기술은 논문 공개 전 국내 특허 출원과 심사 청구를 마쳤다.비드래프트는 이를 발판으로 현재 정부 공모 사업인 '사이버 보안 특화 인공지능 파운데이션 모델 개발' 컨소시엄에 참여해 AX-RAY를 핵심 안전성 검증 기술로 제시하고 있다. 공격 탐지 능력이 뛰어난 모델을 만드는 것 못지않게, 모델 자체에 구조적 결함이나 예상하지 못한 위험경로가 없는지 검증하는 과정이 보안 특화 AI에서 중요하다는 것이 회사 측 설명이다. 단순한 AI 모델 개발사에 머물지 않고, 타 모델의 구현 정확성과 안전성을 독립적으로 검사하는 AI 검증 기술을 확보하는 것이 전략의 핵심이라는 얘기다.김민식 대표는 보안 파운데이션 모델이 성능 좋은 모델을 만드는 데서 끝나선 안 되며, 모델이 실행환경에서 설계된 인과구조를 지키는지, 구조적으로 숨겨진 결함이 없는지 검증할 수 있어야 한다고 밝혔다. “이번 논문은 AX-RAY가 단순한 정책 체크리스트나 정성적 레드팀 도구가 아니라 실제 코드와 실행 결과를 통해 AI의 구조적 안전성을 계측할 수 있다는 기술적 근거를 제시한 것”이라는 게 그의 설명이다.한편 비드래프트는 전 국민 대상 AI 서비스 구축 사업 '모두의 AI'에서도 이스트소프트 컨소시엄에 참여해 AI 모델 성능 최적화와 경량화를 담당하고 있으며, 모델 개발·최적화와 AX-RAY 기반 안전성 검증을 함께 확보해 성능·실행 효율·구조적 안전성을 하나의 기술 스택으로 구축한다는 계획이다.。    Sophie 报道 从上周三至今，新西兰的头条人物毫无疑问的是绿党的国会议员Golriz Ghahraman。

B | 一周以来，她接二连三地被曝偷窃。而这一时期里，她本人正在海外度假，她的沉默令舆论逐渐发酵，所有新西兰人都在翘首等待她的解释……                    Advertise with us          偷窃事件原委          1月10日，一则突发新闻打破了新年假期的平静，Ghahraman被曝曾在奥克兰一家精品店偷窃，引起一片哗然：每年挣16万纽币的国会议员，竟然还去偷？据了解，这家位于奥克兰豪区Ponsonby的商店Scotties Boutique经营了近半个世纪，在新西兰时尚界享有极高的声誉，其服饰动辄上千。         接下来的几天里，Ghahraman再被披露在去年12月23日从该精品店拿走的未付物品价值约为15000纽币（据悉衣服后来被匿名地还回了商店）。而且，在这次偷窃事件发生前的几周，她在同一商店还行窃过。此外，她还涉嫌10月26日在惠灵顿市中心古巴街的时尚家居店Cre8iveworx偷窃。

C |          15日，Ghahraman终于回到了新西兰。16日中午，她发布声明，表示因行为不当将立即辞去国会议员职务，这也间接承认了她的偷窃的行为，她说：“我辜负了很多人，非常抱歉！”                    心理健康问题下的行为失常          在谈到为何会再三行为失常时，Ghahraman在声明中说，她的心理健康受到了议员工作压力的“严重影响”。“这导致我的行为方式完全不符合我的性格。我并不是在为自己的行为找借口，但我确实希望解释一下。

D | ”“我看的心理健康专家说，我最近的行为与近来发生的导致紧张反应的事件，以及与以前未被认识到的创伤有关。”          绿党联合党魁Marama Davidson和James Shaw表示，Ghahraman显然处于“极度痛苦的状态”，国会对任何人来说都是一个充满压力的地方，而且Ghahraman一直受到持续的性暴力、身体暴力和死亡威胁。“在披露她的心理健康问题时，她并非在寻找借口……她是在试图解释她的行为，而不是为自己辩护。”          Ghahraman的声明发布之后，舆论稍稍平息，更多的人为此唏嘘不已。

E | 在此次丑闻爆出前，Ghahraman有着非常优秀的履历。她此番在重重压力之下心理出现问题，控制不了自己的行为，似乎确实是可以理解的。而且，2020年初，Ghahraman曾公开表示自己两年前就患有多发性硬化症，这是一种中枢神经系统免疫疾病，会影响患者的活动、心智，甚至精神状态。

F | 她当时说她正在服用“强效药物”，每六个月必须去一次医院。         在担任国会议员的这些年里，工作、生活中遭遇的各种困难和身为政治人物面对的压力确实是普通人难以想象的，最终导致了她心理上的疾病。有精神科专家曾说过，这种无法控制自己的偷盗行为是一种病态，在心理精神疾病里有一种叫做冲动控制障碍，就包括这种症状。         因冲动控制障碍盗窃的名人中，最著名的是好莱坞女星薇诺娜·莱德，她在从一家百货公司偷了价值6000美元的奢华服装后被逮捕。

G | 据悉她当时患有严重的抑郁症，甚至被医生诊断出边缘性精神错乱，无法控制自己，常常做出连自己也无法理解的事情。偷窃事件发生后，她一度息影，形象受到重挫。                   入店行窃成为中产流行病？          一直以来，人们的普遍认知是一些道德败坏的生活在底层的人会偷盗，但在经济和心理的双重压力下，尤其是在多年的新冠疫情后，中产阶层也加入了偷窃的行列。在商店顺手牵羊的不缺钱的人，远远不止几个被曝光的娱乐圈或者政治界名人。

H |          去年十月份，有报道称英国的店铺盗窃达到每天1000起的历史最高水平，而且，偷窃的中产阶层的数量正在增加。有的人在超市或商店结账时，会偷偷地把高价值的商品放进购物袋里，有的在自助结账时不扫某几样商品，还有的拿着商品就大摇大摆地直接走出去。         专家分析说，是生活成本危机加剧了中产偷盗，现在即使是更富裕的人也感到生活困难，担心钱的问题。

I | 一些人则对价格感到震惊，认为‘我不应该付这个钱’，或者“我一直在这里购物，拿走几件是我应得的”。

J | 而且，他们已经习惯了一定的生活标准，买东西注重品牌，因此他们认为偷拿一些高价值的商品是解决问题的办法。         对于那些说话文雅、衣着得体的专业人士来说，店铺盗窃几乎已经变得完全没有风险。

K | 他们知道，如果被抓住，他们可以说‘哦，天哪，我好傻啊’，而不会被认为是故意盗窃，也就不会有什么后果。一位多次在商店偷窃的中产惯偷说：“如果我被抓到，我只会道歉并甜甜地微笑并付款。

L | 但在那之前，我可能还是会继续偷。这太容易了。”          现代社会紧张的工作和生活节奏，让人们的心理问题日益严重，但道德仍然不应该在日常生活中缺席，如果出现心理问题应寻求医疗和家人的帮助。倘若不以为然，法律将成为最后的底线。Ghahraman承担了她的责任，被迫从国会离职，且正面临警方的起诉。薇诺娜·莱德当年因盗窃被判3年缓刑和480小时的社区服务。而那些没有被抓到的中产小偷，要迷途知返，毕竟“多行不义必自毙”。2022年，Nina Tiara，据称是英国偷窃店铺次数最多的中产，因其犯罪行为被判入狱两年零九个月。         相关阅读：          前绿党议员涉嫌行窃案：警方上门调查          涉嫌多次行窃的绿党议员从国会辞职：“我辜负了很多人，非常抱歉！”          绿党议员涉嫌第三起偷窃事件！这次发生在惠灵顿          涉嫌偷窃的绿党议员，今天回新西兰了，结果……          毁三观！新西兰知名国会议员第二起偷窃事件曝光！党魁发布声明！          第二起商店行窃事件被披露，绿党议员四面楚歌          知名绿党议员被指控行窃后保持沉默，政治评论员称很难重建声誉          【先驱自媒】震惊！新西兰国会议员被指控在奥克兰精品店行窃！          从伊朗难民到新西兰国会议员，年仅35的她经历了怎样开挂的人生？          她是新西兰首位难民国会议员 却不幸罹患多发性硬化          注：本文为编译/原创，欢迎转发分享；但严禁复制等未经授权的非法使用。违反上述声明者，本网将追究其相关法律责任。使用授权请联系[email protected]。

M |          chineseherald.co.nz All Rights Reserved 版权所有          (责编：Sophie)          相关内容                前绿党议员被警方指控两项入店行窃罪，下月出庭           2024首次民调出炉！国家党大获全胜，Chris Hipkins支持率跌至历史最低           罗托鲁瓦男孩被胶枪击中面部 嫌疑人已被捕           颤抖吧！新西兰电动车主要多交钱了！从4月起开始……           前绿党议员涉嫌行窃案：警方上门调查           涉嫌多次行窃的绿党议员从国会辞职：“我辜负了很多人，非常抱歉！”           奥克兰东部铁路线重新开放，但西线和南线马上要开始施工了           绿党议员涉嫌第三起偷窃事件！这次发生在惠灵顿。

N |

Current article:http://f3v.michengyuraochixun.buzz/l65/rovep.html

Published on:00:00:00