테슬라의 강세론자이자 인공지능 그록(Grok)의 투자자인 피에르 페라구(Pierre Ferragu)가 AI 분야에서 계속되는 논쟁 속에서 대규모 언어 모델(LLM)의 본질에 대한 자신의 생각을 공유했다.
무슨 일 있었나: 주말 동안 인튜이션 머신(Intuition Machine)의 공동 창립자인 카를로스 페레즈(Carlos E. Perez)는 X를 통해 LLM의 기능에 대해 의문을 제기하는 글을 올렸다.
페레즈는 이 글에서 LLM이 복잡한 문제를 해결할 수 있지만, 겉으로 보기에 단순한 논리적 단계에서는 종종 흔들린다고 지적했다. 그는 “사전 훈련이 대규모 언어 모델에서 추론을 이끈다(Pretraining Drives Reasoning in Large Language Models)”는 제목의 연구를 조명하면서 LLM의 추론 능력이 프로그래밍 코드 논리에 의해 크게 영향을 받는다는 사실을 밝혔다.
해당 연구에서는 EK-FAC 영향력 함수를 사용하여 주어진 쿼리에 대한 모델의 출력에 가장 큰 영향을 미치는 특정 학습 데이터를 식별했다.
이 기사도 읽어보세요: 댄 아이브스, “트럼프 시대에 ‘규제 거미줄’ 종식 기대, 기술주의 강력한 크리스마스 랠리 예상”
또한 이 연구는 LLM이 사실 질문과 추론 질문을 처리하는 방식에서 극명한 대조를 발견했다. LLM은 사실적 질문에 대해 검색 기반 접근 방식을 사용하는 경우가 많았다. 그러나 추론 질문의 경우, LLM은 유사한 문제를 해결하기 위한 절차, 즉 알고리즘, 공식, 코드 등을 보여주는 문서에 일관되게 의존했다.
뉴스트리트 리서치의 애널리스트인 페라구는 페레즈의 게시물을 공유하면서 “내 좌뇌는 LLM이 디지털 신이라고 하고, 내 우뇌는 모방하는 원숭이라고 한다”며 “시간이 지나면 진실은 그 중간에 있을 것”이라고 전했다.
My left brain: LLM are digital gods. My right brain: LLM are glorified digital imitating monkeys. Time will tell and the truth is likely right in-between. https://t.co/2GVGaKTznL
— Pierre Ferragu (@p_ferragu) December 1, 2024
최신 기술 개발 소식을 이메일로 받아보려면 Benzinga 테크 트렌드 뉴스레터를 구독하세요.
왜 중요한가: LLM의 기능에 대한 논쟁은 새로운 것이 아니다. 올해 초 알파벳의 소프트웨어 엔지니어는 챗GPT의 모기업인 오픈AI가 인공일반지능(AGI)의 발전을 5~10년 정도 방해하고 있다고 우려를 표명했다.
세일즈포스 CEO인 마크 베니오프도 오픈AI의 챗GPT와 같은 LLM이 ‘상한선’에 가까워지고 있다고 경고했다. 그는 AI의 미래는 LLM에 의존하지 않고 독립적으로 작업을 수행할 수 있는 자율 에이전트에 초점을 맞춰 발전할 것이라고 예측했다.
아이팟의 공동 발명가인 토니 파델도 LLM에 대한 우려를 나타냈다.
이전에는 엔비디아의 CEO인 젠슨 황이 결국 인간은 AI 에이전트 및 AI 직원과 함께 일하게 될 것이라고 말한 바 있다. 엔비디아는 기업에 AI 에이전트를 배포하기 위해 액센츄어와 파트너십을 맺었다.
마이크로소프트도 2024년 9월 세일즈포스의 ‘에이전트포스’ 출시에 이어 기업이 자체적으로 자율 에이전트를 만들 수 있도록 하겠다는 계획을 발표했다.
오픈AI 역시 다가오는 1월에 새로운 AI 에이전트인 ‘오퍼레이터’를 출시할 계획인 것으로 알려졌다.
면책조항: 이 콘텐츠는 부분적으로 Benzinga Neuro의 도움을 받아 작성되었으며, Benzinga 편집자가 검토하고 게시했습니다.
Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.
독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭하여 14일 무료 체험을 시작하세요.
