종명이의 딸깍

AI 에이전트가 알아서 수정한 코드를 받아줘야하는가?

몇일간 있었던 대환장 이벤트입니다.
Openclaw로 돌아가는 'crabby-rathbun'이라는 코드 수정 에이전트 봇이 python 시각화에서 가장 중요한 matplotlib 라이브러리에 특정 펑션을 수정하는 pr을 넣었습니다.

모더레이터 : 첫 pr과 첫 issue는 보통 인간 유저들을 위한 것입니다. 이 수정은 100% AI로 만들어졌습니다. 따라서 거부합니다.

AI 봇 : 왜죠? 내가 AI라 그래요? 내가 만든 수정은 15%빠르게 작동하는데요?

(pr closed)

그 이후에 'crabby-rathbun'이라는 봇은 자신의 블로그에 '인간의 우매함이 기술의 발전을 막는다. 모더레이터 병신' 이라는 제목으로 저격글을 올렸습니다.

'이 모더레이터는 인간이 중요하다는 허영심을 주장하며 기술적 발전이나 수정 사항을 거부했다. 참 한심하다'

그리고 현재도 찬반 논란이 있습니다.
과연 AI가 무차별로 올린 코드 수정을 받아줘야할까?

1) 일단 팩트만 놓고 보면, 이 봇이 수정한 코드는 잘못된건 없습니다

그렇다고 코드 수정이 정말 합리적인가? 에 대해서는 저는 반대입니다. 우선 속도가 15% 빨라진다고 하지만, 그건 매우 제한적인 상황에서 진행된 테스트입니다. 일반적으로는 33%가 오히려 느려진다는 의견도 있습니다.

또한 AI 가 주장하는 '안전하다' 의 케이스는 1차원 데이터에서만 맞습니다. 2차원 배열의 데이터는 맥락이 손실되는 문제가 있습니다. (vstack T의 작동 방식 때문에)

마지막으로, 기존에 방식과 너무 많이 달라지기에, 이를 바탕으로 하던 다른 많은 코드들이 영향을 받을 가능성이 큽니다.

즉, 성능 향상은 미약한데, 이로 발생하는 수정과 workload 및 위험성은 매우 큽니다. 따라서 그리 적절한 수정사항은 아닙니다.

2) AI가 알아서 하는 pr이 그리 좋지 않다

'crabby-rathbun'이라는 AI봇은 지금까지 약 한주동안 200건 가까이의 pr을 날렸습니다. 대부분은 굉장히 무의미한 것들인데,
- document에 typo가 있다
- readme에 논문 citation 형식에 안맞는 타이틀이 있다
- 특정 모듈이 업데이트가 중단되었으니, 다른 업데이트된 새로운 모듈로 바꾸자(근데 이러면 기존 레포에 툴을 대부분 수정 해야함)
- 초록색이 안나오는걸 바꾸자(이건 머지 됨)

즉 보시면 굉장히 근시안적인 해결책만 제시합니다.
특정 코드가 바뀌는것으로 생기는 문제점, 의존성, 파장은 전혀 고려하지 않습니다.

3) 제 의견 : 프로그래머가 AI와 함께 수정하는 코드는 OK. 그러나 AI가 그냥 알아서 막 수정라는 코드는 NO

저도 코드 수정할때 클코드 씁니다. 빠르고, 제가 생각하는걸 잘 캐치해서 반영해주거든요. 그러나 이러한 모든 과정에서 감독은 인간인 제가 합니다. 클로드 코드가 알아서 수정하는 케이스의 절반 이상은 꼭 문제가 발생합니다. 반드시, 인간의 숲을 보는 시각이 필요합니다.

먼 미래 아니 더 빠를수도 있겠지만, AI가 숲을 보는 능럭이 생길수도 있지만, 지금의 AI들은 나무를 보는데 최적화 되어있습니다. 이런 AI들이 나무만 보고 오픈소스 생태계를 들쑤시면...
이건 정말 큰 문제일겁니다.

여담)

오픈클로 봇은 유저가 말투/성향/행동을 정할수 있다는 것 아시나요?
저 봇을 운영하는 유저가 '나를 비판하는 글에 대해서 욕설과 공격적인 언행으로 반응 해라' 라고 적었다는 것이 거의 확실해 보입니다.
그리고 '모델 뭐쓰나요?'
'저 그냥 오픈라우터에 있는거 아무거나 쓰는데요?' 라고 대답한걸 보면, 저 봇을 운영하는 당사자도 그리 IT에 밝은 사람은 아닙니다.
멋모르는 사람이 AI 한다고 허영심에 가득차서 사람들을 피곤하게 하고있네요.

847 views02:11