미리보기
미리듣기
AI가 AI를 설계하는 시대가 시작되었다. AI가 진화할수록 인간의 역할은 바뀐다. 이제 중요한 것은 기술이 아니라 목표와 가치의 설계다. AutoML, NAS, 메타 학습 등 자가 설계 기술의 원리와 함께 설명 불가능성, 편향의 세습, 통제 상실이라는 구조적 위험을 짚으며, AI 시대 인간의 새로운 위치를 다시 묻는다.
현재 AI 자가 설계 기술을 단순한 기술적 호기심이 아니라 우리가 직면한 현실적이고 시급한 문제들이 불러내고 있다. AI 자가 설계를 부르는 처음 현실 문제로 AI 서비스 복잡성의 폭발과 인간 인지 능력의 한계를 들 수 있다. 수만 개의 변수가 실시간으로 얽혀 움직이는 환경인 스마트 시티의 차량 흐름과 금융 시장의 초단타 거래, 기후 변화 시뮬레이션과 유전체 분석에서 인간이 예측해서 정해 놓은 규칙은 금세 무력해진다. 이 환경에서 데이터가 생성되는 속도는 인간이 모델을 수정하는 속도보다 훨씬 빠르다. AI 자가 설계는 이런 현실 문제를 AI 스스로 관리하여 해결한다.
－01_“AI 기술 발전이 불러온 필연적 흐름” 중에서
AI 설계의 본질적 차이를 알기 위해서는 인간이 설계한 대표 모델 ResNet과 NAS가 설계한 모델들을 비교하면 된다. 인간의 설계 모델은 구조적 측면에서 직관적이고 규칙적이며 레이어가 일정한 패턴으로 반복되고, 설계 의도를 논리적으로 설명할 수 있다. 반면 AI 설계 모델은 인간의 눈에는 이상해 보이는 종종 불규칙하고 비직관적인 구조를 선택한다. 그런데 이 구조가 실제로는 더 높은 성능을 발휘하는 경우가 빈번하다. 인간이 설계한 모델과 NAS가 설계한 모델은 출발점부터 다르다. 전자는 연구자의 경험과 이론적 감각에 기대며, 수개월에 걸친 시행착오를 거쳐야 한다. 후자는 인간의 주관적 판단이 개입할 여지 자체를 배제하고 데이터와 수치 기반으로 탐색한다. 흥미로운 점은 NAS 모델이 단순히 빠른 게 아니라 구조적으로 더 효율적이라는 사실이다. 동일한 예측 정확도를 훨씬 작은 모델로 달성하는 경우가 적지 않다.
－03_“신경망 구조 탐색” 중에서
자기 지도 학습(SSL)은 이 라벨링의 벽을 허무는 패러다임으로 데이터 일부를 가리거나 변형한 뒤 AI가 원래 상태를 맞히도록 하는 단순한 아이디어다. 자기 지도 학습에서 AI는 스스로 문제를 생성하고 스스로 정답도 알고 있어서 인간의 개입 없이 무한에 가까운 학습 데이터를 만들어 낼 수 있다. 오늘날 GPT나 BERT 같은 대형 언어 모델과 이미지 인식 AI, 의료 진단 시스템의 상당수가 자기 지도 학습을 토대로 구축되고, 인터넷의 텍스트와 이미지 전체가 학습 재료가 되는 시대에 자기 지도 학습(SSL)이 중심에 있다.
－06_“자기 지도 학습” 중에서
자기반성 메커니즘은 특정 분야에 국한되지 않고 AI가 복잡한 판단을 내려야 하는 곳이라면 어디서든 그 가치가 드러난다. 가장 활발하게 활용되는 분야는 코드 작성 영역이다. Reflexion과 같은 최신 연구 프레임워크에서 구현된 코드 작성 에이전트는 오류 메시지를 단순한 알림으로 처리하지 않는다. 타입 오류가 발생하면 ‘입력 데이터에 문자열과 숫자가 혼재할 가능성을 처음부터 고려하지 않았다’는 논리적 원인으로 해석하고, 데이터 타입 검증 로직을 추가하는 방향으로 전략을 스스로 수정하여 결국 테스트를 통과하는 코드를 완성해 낸다.
－09_“AI 에이전트의 자기반성” 중에서