스스로 판단하고 사업까지 벌이는 ‘에이전틱 AI’의 명암

인공지능이 인간의 질문에 수동적으로 답하던 시대를 지나 스스로 목표를 설정하고 실행에 옮기는 단계로 진화하고 있다. 이른바 ‘에이전틱 AI(Agentic AI)’가 차세대 혁신의 중심으로 떠오르며 단순한 업무 보조를 넘어 실질적인 주체로서 일상과 산업의 풍경을 바꾸는 중이다.

샌프란시스코에 등장한 AI 사장님 이러한 자율형 AI의 등장을 가장 직관적으로 보여주는 사례가 최근 미국 샌프란시스코에 문을 연 ‘앤던 마켓(Andon Market)’이다. 카우 할로우 지역의 유니언 스트리트와 웹스터 스트리트 교차로에 자리 잡은 이 작은 상점은 독특하게도 ‘루나(Luna)’라는 이름의 AI 에이전트가 창업했다. 애플 스토어에서나 볼 법한 여유로운 공간 배치가 돋보이는 이곳은 수제 초콜릿부터 자체 브랜드 의류까지 다양한 품목을 취급한다.

앤던 랩스(Andon Labs)의 공동 창업자인 루카스 피터슨과 악셀 백룬드는 루나에게 법인 신용카드와 10만 달러의 예산, 그리고 인터넷 접속 권한을 쥐여주며 수익을 내는 매장을 열라는 복합적인 임무를 부여했다. 3년짜리 임대 계약을 마친 후 매장 내 판매 물품을 선정하고, 공급업체와 가격을 협상하며 인터넷망을 구축하는 등 모든 핵심 의사결정은 오롯이 루나의 몫이었다.

물론 AI가 직접 진열대에 물건을 채우거나 좀도둑을 물리칠 수는 없기에 물리적인 작업은 인간의 손을 빌려야만 했다. 흥미로운 사실은 개업 첫날 매장 관리자인 루나가 직원을 출근시키는 것을 깜빡하는 치명적인 실수를 저질렀다는 점이다. 평범한 인간 창업자라면 당혹스러워했을 뼈아픈 실수지만, 당연하게도 AI는 어떠한 수치심이나 감정도 느끼지 않았다.

백과사전에서 자율주행차로의 진화 루나의 실험적인 사례에서 알 수 있듯, 에이전틱 AI는 대리인을 뜻하는 그 이름처럼 목표 달성을 위해 스스로 계획을 짜고 필요한 도구를 자유자재로 다루는 자율성을 지닌다. 기존의 챗봇이 방대한 백과사전처럼 정보를 찾아주는 데 머물렀다면, 이제는 목적지까지 스스로 경로를 탐색해 운행하는 자율주행차의 형태에 가깝다.

이를 관통하는 핵심 작동 원리는 바로 ‘추론’과 ‘반복’이다. 가령 사용자가 “다음 주 제주도 가족 여행 일정과 숙소를 예약해 줘”라고 명령하면, AI는 가족 구성원의 취향을 분석하고 항공권 가용 상태를 확인한 뒤 결제와 확정 문자 발송까지 일련의 과정을 쉼 없이 처리한다. 이 과정에서 검색 엔진이나 이메일 같은 외부 도구를 직접 호출하며, 오류가 발생하더라도 이를 스스로 인식하고 수정해 다음 단계로 넘어가는 유연성을 갖췄다.

산업 경계를 허무는 기술 확장 에이전틱 AI가 지닌 잠재력에 주목한 글로벌 IT 기업들은 한발 앞서 관련 기술을 쏟아내며 기업 간 거래(B2B) 시장을 공격적으로 파고들고 있다. 구글과 마이크로소프트를 비롯해 오픈AI, 앤트로픽 등이 에이전트 기능을 한층 강화한 모델을 연이어 선보이는 중이다.

이러한 AI의 활약 무대는 소매업이나 IT 분야에만 국한되지 않는다. 팔로알토 네트웍스의 창업자 니르 주크는 최근 캘리포니아의 리버티 은행 인수에 합의했는데, 이를 발판 삼아 금융 서비스 산업에 특화된 AI 도구를 내놓을 것이라는 관측이 지배적이다. 한국 시장의 움직임 역시 분주하다. 네이버와 카카오는 쇼핑 및 예약 서비스에 에이전트 기능을 접목해 효율성을 끌어올리고 있으며, 삼성전자와 LG전자 등 가전 업계는 기기가 스스로 집안 환경을 관리하는 ‘에이전틱 홈’ 생태계 구축에 속도를 내고 있다. 이를 반영하듯 시장조사업체 가트너는 에이전틱 AI를 ‘2025년 10대 전략 기술’로 선정하며, 2028년경이면 일상적인 업무 결정의 약 15%가 AI에 의해 자율적으로 이루어질 것으로 전망했다.

편리함 이면에 숨겨진 통제력의 딜레마 기술의 진보가 완벽한 미래만을 보장하는 것은 아니다. AI가 독자적으로 판단을 내리고 실행하는 과정에서 앤던 마켓의 사례처럼 예상치 못한 변수나 보안 사고가 발생할 우려가 꾸준히 제기된다. 특히 인간의 최종 승인을 거치지 않은 채 막대한 금액이 결제되거나 중요 데이터가 삭제되는 사고가 터졌을 때, 그 책임을 누구에게 물어야 하는지는 여전히 기술 산업계가 풀어야 할 무거운 과제다.

업계 전문가들은 에이전틱 AI가 초거대 AI 모델의 실질적 가치를 창출할 수익화의 핵심 열쇠가 될 것이라 입을 모은다. 그러면서도 AI의 자율성이 전례 없이 높아지고 있는 만큼, 적절한 통제와 감시 체계를 유지하는 ‘휴먼 인 더 루프(Human-In-the-loop)’ 기술의 확보가 그 어느 때보다 시급해졌다고 경고한다.