종명이의 딸깍
10.3K subscribers
6.83K photos
71 videos
2 files
5.16K links
하기 귀찮은걸 할수있게 해줍니다.

채팅방: https://t.me/chat_jong
Download Telegram
이러한 Great American AI Act 초안은 기본적으로 중앙화된 AI 시스템을 전제로 만들어지고 있음. 즉, “누가 이 AI를 만들었는가”, “누가 이 모델을 배포하고 운영하는가”를 중심으로 규제를 적용하려는 구조. 이때 걸리는 것이 우리에게 익숙한 분산형 AI. 분산형 AI의 경우는 이러한 규제 기준에 넣고 같이 돌아가기엔 어렵다는 의견이 많죠.

분산형 AI는 AI 모델의 훈련과 추론이 수많은 독립적인 노드들에 걸쳐 분산되어 이루어지기 때문에 단일한 주체가 전체 모델을 개발하거나, 모델의 모든 가중치를 독점적으로 보유하지 않음. 오픈 프로토콜을 통해 누구나 노드에 참여하고, 코드에 기여할 수 있는 구조인 것. 그러다보니 “이 AI의 개발자는 누구인가?”라고 명확하게 지목할 수 있는 주체가 존재하지 않는 경우가 다반사. (물론 분산형 AI라고 해서 항상 책임 주체가 전혀 없다는 뜻은 아니고, 다만 기존 법이 상정하는 “하나의 개발사 / 하나의 배포자 / 하나의 운영자” 모델과는 잘 맞지 않는 경우가 많다는 의미)

이런 구조는 초기 암호화폐 규제 때와 비슷한 느낌이 나는데. 당시에도 기존 금융 규제는 “누가 돈을 보내고 받는가”를 중심으로 설계 되어 있었기 때문에, 반영하지 못한 것들이 있었음.마찬가지로, 지금의 AI 법안도 중앙 집중형 개발·운영 모델을 기준으로 만들어져 있기 때문에, 분산형 AI에게 이러한 법을 그대로 적용하려고 하면 여러 문제가 발생할 수 있음. 예를 들어, 단순히 노드를 운영하는 사람이나 오픈소스 코드를 기여하는 사람까지 모두 규제 대상으로 볼 위험이 있고, 이는 분산형 AI로부터 오는 혁신을 저해할 수 있다는 우려가 나오고 있는것.
이러한 우려에 대한 분산형 AI 진영의 대응으로 지난주 워싱턴 D.C.에서 20명 이상의 분산형 AI 창립자들이 중요한 미팅을 했다고 하네요. 중앙화된 AI를 기준으로 한 법들이 분산형 AI에게 적용되기 어려움을 어필하고, 조금 더 현실을 반영하게 하기 위한 움직임인 것 같아요.

FLock의 경우에도 CEO sun이 참여했는데, Great American AI Act에 다음과 같은 3가지 구체적인 제안을 했다고 하네요.

1. ‘분산형 AI 시스템’에 대한 명확한 정의를 도입해야 합니다.

단순히 AI라고 통칭하지 않고, 훈련이나 추론이 독립적으로 운영되는 다수의 노드들로 분산되어 있으며, 단일 주체가 개발을 통제하거나 전체 모델 가중치를 보유하지 않는 시스템을 별도로 정의해야 한다는 내용. 정의가 명확해야 제대로 된 규제와 분리가 가능해지기 때문인 것 같네요.

2. 오픈소스 활동 자체를 규제 대상으로 보지 않도록 명확히 해야 합니다.

오픈소스 코드나 모델 가중치를 공개하는 행위, 노드를 운영하는 행위, 분산형 네트워크의 프로토콜을 유지·관리하는 행위만으로는 ‘개발자’나 ‘배포자’로 간주되지 않도록 법에 명확히 명시해야 합니다. 이것은 규제 회피를 위한 것이 아니라, 분산형 시스템의 특성을 제대로 반영하기 위함입니다.

3. 책임은 ‘실질적인 통제권’을 가진 주체에게 부여해야 합니다.

가장 중요한 원칙입니다. FinCEN(미국 금융범죄단속네트워크)이 소프트웨어를 배포하는 것과 실제로 자금을 송금하는 행위를 구분하듯이, AI 분야에서도 누가 실질적으로 시스템을 통제하고 운영하는가를 기준으로 책임을 물어야 한다는 내용입니다.

결국 큰 골자는 분산형 AI를 중앙화된 AI와 분리하고, 이들의 특성들을 고려하여 책임과 법 적용, 예외상황들을 만들어야한다는 내용이네요.
책임은 아키텍처가 아니라, 실질적인 통제권을 따라가야 한다.

누군가 AI 시스템을 실제로 배포하고, 운영하고, 수익화하고, 사용자에게 제공한다면 당연히 법적 책임을 져야 합니다.

반대로 단순히 오픈소스 코드를 공개하거나, 분산 네트워크의 노드를 운영하거나, 프로토콜 유지에 기여했다는 이유만으로 중앙화 AI 기업과 같은 책임을 지우는 것은 분산형 AI의 구조를 잘못 이해한 접근일 수 있습니다.

이게 중요한 이유는 분산형 AI가 더 이상 단순한 크립토 내러티브에만 머물러 있지 않기 때문입니다.

FLock은 개발도상국과 신흥국 정부들이 소수 빅테크에 국가 AI 인프라를 전적으로 의존하지 않기 위해 분산형 AI 인프라를 검토하고 있다고 설명합니다. 즉 이 논의는 단순히 “토큰 프로젝트 하나가 규제를 피하고 싶다”는 문제가 아니라, 앞으로 AI 인프라를 누가 소유하고, 누가 접근하고, 누가 통제할 것인가에 대한 문제로도 해석할 수 있습니다.

미국이 AI 규제의 큰 틀을 만들기 시작하는 지금, 분산형 AI가 그 안에서 어떻게 정의되는지는 꽤 중요합니다. 정의가 너무 넓으면 혁신을 막을 수 있고, 정의가 너무 느슨하면 책임 공백이 생길 수 있습니다. 그래서 필요한 건 예외가 아니라 정교한 구분과 그 구분에 따른 규제 다변화라고 생각합니다.

중앙화된 AI 개발자, 오픈소스 기여자, 노드 운영자, 실제 배포자, 그리고 실질적 통제권을 가진 주체를 구분하는 것. 이번 논의에서 분산형 AI 쪽이 요구하는 것도 결국 이 지점인 것 같습니다.

규제를 없애자는 게 아니라, 분산형 시스템이 어떻게 작동하는지 반영한 규칙을 만들자는 것.


AI가 점점 국가 인프라가 되어가는 상황에서, 이 논쟁은 앞으로 분산형 AI 프로젝트들에게도 AI를 통한 발전에 있어서도 꽤 중요한 선례가 될 수 있을 것 같네요.
Forwarded from 마인부우의 크립토볼 (minebuu)
메타마스크에서 주소 중독 공격을 방지하기 위한 솔루션을 도입했네요

https://x.com/MetaMask/status/2067299428680265791?s=20

주소 중독(address poisoning) 공격은 공격자가 사용자가 평소 자주 사용하는 주소와 앞뒤 문자열이 비슷한 주소를 만든 뒤, 사용자의 지갑에 0-value transfer나 소액 전송을 발생시켜 거래 내역을 오염시키는 공격입니다.

사용자는 거래소 입금 주소나 지인 주소처럼 자주 쓰는 주소를 다시 사용할 때, 최근 거래 내역에서 주소를 복사하거나 앞뒤 일부만 확인하는 경우가 많습니다. 공격자는 이 습관을 노려 사용자가 유사한 공격자 주소를 정상 주소로 착각하게 만들고, 결국 자금을 공격자 주소로 보내도록 유도합니다.

이런 공격을 왜 당하나 싶을지 몰라도 꾸준히 피해가 발생되는 스캠 공격 중 하나입니다. 메타마스크가 이를 위한 방지책으로 그동안 내가 사용하던 주소와 비슷하면서 처음 사용하는 주소에 대해 경고를 띄우도록 패치를 진행하였네요.

web3 지갑을 사용할 때 가장 중요한 것이 보안인데, TX 실행 결과와 잔액 변화를 미리 보여주는 것도 그렇고 이번의 주소 오염 공격 방지까지, 메마가 계속해서 유저들의 사기 피해를 방지하려는 노력이 보이네요.
❤1
Nous는 팀 크레딧 기능도 추가

- 하나의 잔액을 충전하여 확장
- 팀을 생성하고, 팀원을 초대하면 이메일로 초대받아 가입
- 사용자는 여러 팀에 속할 수 있으며 팀 간 전환이 가능

https://x.com/nousresearch/status/2067337553624125621
Forwarded from KOSPI Price
🟢 9,000.00 @KOSPI_Price
Forwarded from wc k
뭐 맨날 털려
암호화폐장점 : 털린거 확인은 가능
😁1
OpenAI의 새로운 AI 안전성 평가(AI safety eval)는 모델을 출시하기 전에, 실제 배포 상황을 미리 시뮬레이션해서 위험 행동을 예측하겠다는 것.

기존 AI 안전성 평가는 보통 아래와 같은 방식이 많았음.
· 사람이 만든 테스트셋
· synthetic prompt (합성 프롬프트)
· red teaming (의도적인 시스템 공격)
· 특정 위험을 겨냥한 벤치마크


문제는 이러한 테스트 환경에서 모델이 테스트임을 인식할 수도 있고, 테스트셋이 이미 알려진 위험만 과하게 반영할 수도 있고, 실제 유저들이 어떤 방식으로 모델을 쓰는지는 충분히 반영하지 못할 수 있음.

OpenAI가 말한 Deployment Simulation(배포 시뮬레이션)은 이러한 문제들을 해결하기 위한 접근법으로,

1. 과거 실제 ChatGPT 대화 데이터를 가져옴
2. 기존 assistant 답변을 제거함
3. 출시 후보 모델이 같은 상황에서 다시 답하게 함
4. 그 답변에서 원치 않는 행동이 얼마나 나오는지 측정
5. 실제 출시 후 트래픽과 비교해 예측이 맞았는지 검증

=> 모델을 바로 배포하지 않고, 과거 실제 사용 맥락 위에서 새 모델을 가상 배포/측정 이후 출시 후 재검증을 해서 안정성을 높이는 방식
=> OpenAI는 이걸 GPT-5 계열 Thinking 모델 배포에서 테스트했고, 약 130만 개 deidentified conversations(비식별화된 대화, 예측치에 벗어난 답변)을 분석함.


이러한 배포 시뮬레이션 방식이 기존 벤치마크를 완전히 대체한다기보단, 기존 신뢰성 평가가 잘 못 보는 영역을 보완해서 다음과 같이 구분해서 사용될 것 같네요.
· 전통적인 신뢰성평가 = 희귀하지만 치명적인 위험을 강제로 테스트.
· 배포 시뮬레이션 = 실제 배포에서 어느 정도 빈도로 나타날 수 있는 문제를 예측


AI 모델 평가가 점점 정적인 시험지에서 운영 전 리허설 / 배포 전 섀도우 테스트 영역까지 커버하는 느낌이고, 이건 에이전트가 이제는 단순 답변만 하는 것이 아니라 아래와 같이 시스템 전반과 결제 등 치명적일 수 있는 부분에서 동작하기 때문에 중요하다고 생각되네요.
· 툴을 호출하고
· 파일을 수정하고
· 결제나 API를 쓰고
· 다른 agent에게 작업을 위임하고
· 실제 시스템 상태를 바꿀 수 있음

=> 이런 구조에서는 벤치마크 점수보다 실제 배포 맥락에서 어떤 행동을 하는지가 훨씬 중요함.


AI safety eval의 다음 단계는 모델을 시험장에 앉히는 게 아니라, 실제 배포 환경을 미리 재현해서 행동을 예측하는 쪽으로 가고 있음. OpenAI의 Deployment Simulation은 AI 모델 평가가 점점 소프트웨어 배포의 canary release(일부 유저에게 선공개), shadow traffic(같은 질문을 백그라운드 시스템에서 새버전 테스트), pre prod testing(퍼블릭 배포전 최종테스트) 처럼 변하고 있다는 신호로 보임.

https://openai.com/index/deployment-simulation/
종명이의 딸깍
OpenAI의 새로운 AI 안전성 평가(AI safety eval)는 모델을 출시하기 전에, 실제 배포 상황을 미리 시뮬레이션해서 위험 행동을 예측하겠다는 것. 기존 AI 안전성 평가는 보통 아래와 같은 방식이 많았음. · 사람이 만든 테스트셋 · synthetic prompt (합성 프롬프트) · red teaming (의도적인 시스템 공격) · 특정 위험을 겨냥한 벤치마크 문제는 이러한 테스트 환경에서 모델이 테스트임을 인식할 수도 있고, 테스트셋이…
이런 글들을 볼때, OPENAI가 안정성 평가 모델에 배포 시뮬레이션 방식을 적용하고 있구나라는 사실로 보는것도 중요하지만 확장을 해서 고민해보기

AI 영역 확장이나 투자 관련된 고민

- AI 모델 경쟁이 단순 성능 경쟁에서 운영 검증 인프라 경쟁 => 배포 전 행동 검증 레이어.
- 에이전트용 pre production testing infra
- 실제 운영 시뮬레이션/모니터링 인프라
- 분산형 AI의 다음 유틸리티는 컴퓨트 제공만이 아니라, AI 행동을 검증하고 평판화하는 분산형 평가 레이어

개인의 AI 에이전트 세팅에 적용

- 단순히 바로 모델 업데이트를 하지 않고, 자주 하는 작업을 기준으로 배포시뮬레이션 비슷한 테스트셋을 만들기
- 다른 모델/프롬프트/툴 설정으로 바꿨을 때 테스트셋을 통해 결과가 얼마나 망가지는지 미리 확인.
- 기존 체크리스트를 채점기 프롬프트로 만들어서 새로운 초안이 나올 때마다 자체 점검이나 하위 에이전트를 통해 검토.

이런식으로 확장해서 적용하거나 고민해볼수 있지 않을까 싶네요
Forwarded from 크립토메이지
Stacy in Dataland (´⊙~⊙`)
AI personalization is becoming a decision engine, not just a content layer McKinsey’s framework maps AI across the full customer journey: acquisition, churn and cross-sell management, promotions, proactive service, predictive insights, measurement, and scenario…
AI 개인화는 단순히 컨텐츠 계층이 아닌 의사 결정 엔진이 되고 있습니다

맥킨지의 프레임워크는 AI를 고객 여정 전체에 적용합니다. 고객 유입, 고객 유출 및 교차 판매 관리, 프로모션, 능동적인 서비스, 예측 분석, 측정 및 시나리오 분석 등입니다.

이러한 방식으로, 최적의 고객 경험은 단순히 하나의 전략이 아니고, 다음에 무엇을 해야 할지 결정하는 통합 시스템입니다.

맥킨지는 고객 생애 주기의 통합된 데이터를 사용하여 적합하게 조정된 AI 모형이 다음과 같은 결과를 제공할 수 있다고 합니다.

• 고객 만족도 15~20% 향상
• 매출 5~8% 증가
• 서비스 비용 20~30% 감소

간단히 말해 네오마케팅의 진정한 이점은 더 많은 컨텐츠가 아니라 고객 생애 주기에 걸쳐 더 나은 의사 결정입니다.

당신은 이미 AI를 적용한 회사인가?

데이터 출처: McKinsey & Company
관련 읽기: AI 시대의 네오마케팅: 브랜드가 실제로 자동화할 수 있는 것들
돈타쿠님 채팅방에서 봤는데 너무 아프다.....

단어가 폭력적이네...점소이, 37세 이상, 인기없는 여성에게밖에 수요가 없는 남자
Forwarded from 폐지줍기 연구소
🟢 거래소 대청소 시즌 시작?

최근 3일간 주요 메이저 거래소들의 행보가 심상치 않습니다. 많은 코인들이 상장폐지 혹은 유의 통보를 받고 있는데요. 리스트는 다음과 같습니다.

✅ 바이빗 상장폐지 (06/17)
-EAT, KILO, ZEX, MVL, SYND, ZRC, PUFF

✅ 바이낸스 유의지정 (06/18)
-Act I : The AI Prophecy (ACT), Blur (BLUR), PIVX (PIVX), QuarkChain (QKC)

✅ 업비트 유의지정 (06/18)
-알파쿼크 (AQT), 아르고 (AERGO)


바이빗 쪽은 대부분 들어봤을 프로젝트들이 썰려나갔고 바이낸스, 업비트에서도 Blur 등이 유의 빔을 맞은게 눈에 띄네요.
Forwarded from MegaETH_KR
🗓 메가이더 x 크립토농구 AMA

MOSS 출시를 기념하여 메가이더 AMA를 진행합니다.

일정 : 6월 18일(목) 20:00 바로 오늘!!!
진행 장소 : 메가이더 한국 커뮤니티 (음성으로 진행)
AMA 상품 : "메가"커피 x 100잔 + 치킨&콜라 10명

메가이더 공지 / 채팅 모두 입장해두셔야 받으실 수 있어요! (농구 채널은 안들어와도 이건 들어가라..)

오늘 저녁에 다들 메가이더 놀러오쎄용~~
Please open Telegram to view this post
VIEW IN TELEGRAM