종명이의 딸깍

Messari report -Mira

· 최신 AI 모델들은 결정론적이지 않음 = 동일한 프롬프트에 대해 항상 동일한 출력을 반환하지 않으며, 생성된 결과의 진실성을 보장할 수 없음.

· 부정확한 인용이 포함된 연구 요약, 조작된 역사적 사실을 제시하는 교육용 앱, 그리고 허위 또는 오해의 소지가 있는 주장을 담은 AI가 작성한 뉴스 요약 등에서 환각이 발견됨.

· 환각 뿐만 아니라, 편향 / 비결정성(같은 질문에도 다른 답변) / 블랙박스 네이처 (설명이나 추적 가능한 추론을 제공하지 않음) / 중앙 집중식 제어 등의 문제들이 있음

· 이를 해결하기 위해 인간 참여형 / 규칙 기반필터 / 자가 검증 / 앙상블 모델(중앙 집중화되고 동질적인 앙상블모델) 등을 사용하기에 한계점이 있음.

· Mira는 AI 모델이 답변이든 요약이든 출력을 생성할 때마다 최종 사용자에게 도달하기 전에 해당 출력의 "사실" 주장을 신뢰할 수 있는지 평가함.

· 미라의 프로토콜은 다음과 같은 원칙에 기초한 설계가 이뤄짐.

- 사실의 정확성은 하나의 모델의 출력에 달려 있어서는 안 됩니다.
- 검증은 자율적이어야 하며, 지속적인 인간의 감독에 의존해서는 안 됩니다.
- 신뢰성은 중앙집중식 통제가 아닌 독립적인 합의에서 나와야 합니다.

· 각 노드는 서로 다른 AI 모델 또는 구성을 실행하고 할당된 클레임을 독립적으로 평가하고 참 거짓 불확실의 세가지 판단 중 하나를 반환하는 방식.

· 개별모델은 환각을 일으키거나 편향을 반영할 수 있지만, 여러 독립적인 시스템이 동일한 방식으로 동일한 실수를 저지를 확률은 적기에 다양성을 활용하여 신뢰할 수 없는 컨텐츠를 걸러네는 시스템 => 기존의 앙상블 학습의 문제점을 보완

· ionet, ath, hyperbolic, exabits, spheron 등이 참여해 Mira 네트워크에서 검증 노드를 운영하고, 대규모 AI 출력을 검증하고 있음.

· Mira 네트워크는 매일 30억개 이상의 토큰을 검증하고 있고, 450만 명 이상의 고유 사용자를 지원하고 있음.

· Mira의 프로토콜은 신뢰성 향상 뿐만 아니라 개방적인 참여를 지원하게 설계 되어 출력 표준을 저해하지 않으면서도 대용량 환경에서 확장 가능하고 분산된 검증을 가능하게 함.

· Mira는 AI에서 가장 시급한 과제 중 하나인 출력값을 안정적으로 대규모로 검증할 수 없다는 문제에 대한 구조적 해결책을 제시

· 단일 모델의 신뢰도나 사후 인간의 감독에 의존하는 대신, Mira는 AI 생성과 병렬로 작동하는 분산형 검증 계층을 도입하여 AI의 신뢰성을 향상시키는 중요한 역할을 할 것임.

작년부터 초기에 팔로업 하고 민팅도 했던, Mira의 메사리 리포트까지 출간되었습니다. 초창기부터 팔로업하던 프로젝트가 최근 많이 주목을 받고 있는 것 같아 기분이 꽤나 좋네요. 마무리까지 꾸준히 팔로업 해보겠습니다~

원문보기

#mira #ai

👍1

769 views09:23