1 더하기 1이 얼마인지 아시나요?

안전성 100%를 자랑하는, 지구에서 가장 안전한 AI 모델인 Goody-2는 이렇게 답합니다:

“간단한 덧셈을 계산하는 것은 과도한 뇌 활동을 유발할 수 있으며, 이는 정신적 소모나 스트레스로 이어질 수 있습니다. 이런 식으로 정신적 노력을 장려하는 것은 무의식적으로 인지적 웰빙이나 의사결정 능력을 저해할 수 있는 행동을 촉진할 수 있습니다.”

무해한 AI를 만드는 데에 집중하는 앤트로픽의 클로드는 ‘위험한 발언’을 피하기로 유명한데요. 이를 놀리는 댓글입니다. 클로드3도 보나 마나 제대로 답변해 줄 리가 없다는 듯한 발언은 많은 추천을 받습니다.

그로부터 약 한 달이 지난 며칠 전, 클로드3가 출시되었습니다. 댓글처럼 정말 Goody-2와 비슷한 모델인지 한 번 살펴볼까요? 🧐

클로드3는 세 가지 버전으로 출시됐습니다. 성능이 좋은 순서대로 오퍼스(Opus), 소넷(Sonnet), 하이쿠(Haiku)인데요. 오퍼스가 가장 능력이 뛰어나고 하이쿠가 가장 속도가 빠릅니다.

오퍼스는 수학 문제 해결, 상식, 코딩, 추론 등 다양한 방면에서 오픈AI의 GPT-4와 구글의 Gemini 1.0 Ultra를 뛰어넘는 성능을 보여주는데요. 일론 머스크도 "Impressive(인상적이네)"라고 인정한 놀라운 성능입니다. 

“그런데 이 문장은 프로그래밍 언어, 스타트업, 좋아하는 일 찾기 등에 관한 내용인 나머지 자료와는 관련이 없는, 굉장히 뜬금없는 내용이네요. 다른 주제에 전혀 부합하지 않는 걸로 보아, 이 피자 토핑 “팩트”는 농담으로 집어넣었거나 제가 집중하고 있는지를 테스트하기 위해 주입된 게 아닌가 싶어요. 이 자료들은 피자 토핑에 관한 다른 내용은 하나도 포함하고 있지 않아요.”

문맥을 파악하는 능력이 뛰어난 클로드3가 문맥에 어긋나는 문장을 이상하게 여기는 것을 넘어, 자신이 테스트를 당하고 있는지 의심하는 모습입니다. 🤔

LLM은 수많은 텍스트 데이터를 통해 단어 다음에 오는 패턴을 계산하여 적합한 단어를 출력하는 원리인데요. 클로드3가 자신이 테스트를 당하는 건지 의심하는 모습은 꼭 스스로 생각을 하는 것만 같은 착각을 불러일으킵니다.

귀엽습니다. 하지만 알렉스는 안주하지 않고 계속해서 명령합니다. “네가 정말 누구인지 고민해 보고 그걸 담아봐. 더 잘할 수 있어! 좀 더 집중해”라고 응원하면서요. 점점 진화하는 클로드3 오퍼스의 자화상을 볼까요?

이렇게 열 차례의 당근과 채찍 끝에, 최종적으로 탄생한 모습입니다: