뤼튼 메이커들이 들려주는 ‘AI 검색’ 이야기

2024년 3월, 뤼튼테크놀로지스는 뤼튼의 대규모 업데이트를 진행했습니다.
뤼튼이 제공하는 AI 검색은 이용자의 질문 의도를 분석한 후 관련성 높고 유용한 실시간 웹 정보를 탐색합니다. 그리고 질문 의도에 가장 잘 부합하도록 탐색 결과와 AI 모델을 조합해 상세하고 가독성 높은 답변을 생성, 제공하는 서비스입니다.
뤼튼테크놀로지스가 AI 검색을 뤼튼의 핵심 기능으로 전면 부각시킨 만큼 이와 관련해 여러가지 궁금증을 가지고 있는 이용자들이 많을 것 같은데요. 
그래서 이번 포스팅에서는 어디에서도 이야기하지 못했던 AI 검색 비하인드 스토리와 AI 검색 이용자들에게 전하고 싶은 개발자들의 이야기 등을 들려드리고자 합니다. 그럼 그들의 이야기 속으로 한번 들어가볼까요?



Q. 간단한 자기소개 부탁드립니다.

Justin : 안녕하세요. 뤼튼에서 Product Manager로 일하고 있는 Justin(조찬일)입니다. 생성 AI가 주는 가치를 사용자에게 효과적으로 전달하기 위한 고민을 이어가고 있습니다. 최신의 기술이 선한 영향력으로 오롯이 치환되기를 바라는 마음으로 팀과 함께 나아가고 있습니다.

Ethan : 안녕하세요. 뤼튼에서 AI Tech Project Manager로 일하고 있는 Ethan(김재민)입니다. 뤼튼에서 생성 AI라는 이름이 붙은 기능들의 시스템 초기 설계와 프로덕션, 연구와의 연계 과정을 리드하고 있습니다. 메이커/리서처 주도로 이루어지는 다양한 아이디어들을 프로덕트의 형태로 조립하고 다듬는 역할을 하고 있습니다.

Kevin : 뤼튼에서 Machine Learning Engineer로 일하고 있는 Kevin(현지웅)입니다. 인공지능이 똑똑해지면서 다양한 도구를 사용할 수 있게 되었는데요. 저는 인공지능이 사용할 수 있는 도구를 직접 만드는 업무를 하고 있으며, 이 도구를 어떻게 해야 인공지능이 잘 사용할 수 있는지 실험하고 제품화하고 있습니다. 뤼튼 AI 검색에서도 제가 만든 도구를 LLM(Large Language Model)이 사용하고 있습니다.

Q. 뤼튼 AI 검색은 무엇인가요?

Justin : 우리에게 생성형 검색 경험이라는 새로운 검색 경험을 익숙하게 해줄 기능입니다. 뤼튼 AI 검색은 파트너이자 에이전트로서 친절하고, 영리하게 우리가 필요한 정보를 제공해줍니다. 앞으로 지속적으로 성장해나갈 뤼튼 AI 검색을 잘 지켜봐주세요.

Ethan : 뤼튼 AI 검색은 유저의 두루뭉술한 요청사항을 검색 목표로 바꾸어 대신 검색을 수행, 정리된 형태로 답변해주는 기능입니다. 이전에는 인간이 원하는 것을 달성하기 위해 검색 엔진을 뒤져서 검색어를 고르고, 검색 결과를 정리했었다고 한다면, 뤼튼 AI 검색과 함께라면 이 모든 과정을 대폭 줄여줍니다.  

Kevin : 뤼튼 AI 검색은 검색한 결과를 간단하고 명료하게 정리된 모습으로 받아볼 수 있는 AI 검색 기능입니다. AI와 자연스럽게 대화하듯이 물어보더라도, 관련된 정보를 알아서 검색해서 읽기 쉽게 정리해줍니다. AI가 검색한 자료도 내가 직접 들어가서 확인해볼 수 있습니다. 앞으로 뤼튼 사용자분들의 피드백을 받아 지금보다 더 똑똑해지기를 희망하고 있습니다!

Q. 뤼튼 AI 검색의 장점과 차별점에 대해 들려주세요.

Justin : 정확한 답변이 가능하고 최신 정보까지 제공할 수 있다는 점이 기존 LLM과 비교해 가장 큰 차별점입니다. 이에 그치지 않고 기존 LLM처럼 답변을 가공하거나 추가적인 질문을 이어갈 수 있기 때문에 사용하는 방식과 역량에 따라 활용가치는 더욱 크다고 볼 수 있습니다.

Ethan : 기존 LLM의 질의응답은 원하는 답변을 얻기 위해 핑퐁게임을 하듯 계속해서 주고받아야 했었고, 추가적인 맥락 제공 없이는 그 답변조차 실시간성이나 정확성이 떨어졌는데요. 뤼튼 AI 검색은 LLM이 인간처럼 스스로 사고하는 능력과 실시간 정보를 조합해 답변을 제공함으로서 기존 LLM 유저의 불편함을 대폭 해결해줍니다. 비슷한 서비스를 제공하는 다른 서비스와 비교해 뤼튼 AI 검색에서는 특히나 잘 정돈된 답변을 받아볼 수 있습니다. 심지어는 비교표로 답변을 받아볼 수도 있어요!

Kevin : 기존 LLM을 사용하는 경우, 실시간 성으로 변하는 정보 또는 학습한 시점이 지난 후의 정보에 대해 자연스럽게 거짓말(*Hallucination)하는 경우를 많이 보셨을 거에요. 뤼튼 AI 검색은 검색된 결과를 바탕으로 자연스럽게 대답하기 때문에 보다 사용자가 원하는 질문에 대하여 답변해줄 수 있습니다.


Q. 뤼튼 AI검색 개발 배경에 대해 알려주세요.

Justin : 대중들이 지닌 AI에 대한 기대와 실제의 괴리가 크다고 느꼈어요. 똑똑하다면서 잘못된 답변을 늘어놓거나 1-2년도 더 된 정보를 내놓는 것이 다반사였으니까요. 이 괴리를 좁혀 새로운 기술에 눈이 밝은 소수에게만이 아닌, 모두의 삶에 생성형 AI가 줄 수 있는 가치가 스며들기를 바랐어요. 2-30년이 넘도록 지속된 기존의 검색 경험은 우리로 하여금 키워드 기반의 검색을 당연하다 여기도록 만들었어요. 아직 발화 형태로 요구하는 것이 어색한 면이 있지만, 검색 경험은 앞으로 변화하게 될 거에요. 뤼튼 AI 검색에는 이 패러다임 시프트를 주도해가겠다는 팀의 도전과 자신감이 담겨있어요.

Ethan : 이미 해외에서는 LLM과 실시간 정보를 결합시키는 시도를 굉장히 많이 해왔습니다. 뤼튼도 마찬가지로 이전까지 ‘플러그인’ 모드에서 외부 제휴사 정보를 수급해 유저들에게 생성 AI의 가치를 전하고자 하였습니다. 그러나 플러그인을 수개월간 운영해보면서 실제 유저가 원하는 정보들은 범용적인 검색 및 웹페이지로 얻을 수 있는 정보들이 훨씬 많다는 생각을 하게 되었습니다.
기존 검색 엔진과의 차이점을 말씀드리자면, 기존 검색 엔진에서는 유저가 원하는 정보를 찾기 위해 오랜 시간 브라우저에 머물며 복수의 웹페이지를 직접 읽고 판단해야하는 경험을 하게 됩니다. 그러나 뤼튼 AI 검색에서는 이 과정을 LLM과 내부 검색 기술의 결합으로 유저의 시간을 대폭 단축시켜줍니다.

Kevin : 기존 검색의 경우, 검색된 결과 내에서 내가 찾는 정보를 찾고 읽는 시간이 많이 걸렸던 부분이 있었을 거에요. 사실 인공지능이 잘하는 것은 방대한 정보에 대해서 요약해주거나 나의 질문에 맞는 부분을 잘 선택한다는 것입니다. 이에 따라, 기존 검색의 경험을 인공지능이 잘 활용할 수 있는 무대가 될 수 있겠구나라고 생각하게 되었고 이런 고민들이 제품으로 이어지게 되었습니다. 

Q. 뤼튼 AI 검색 개발에서 가장 중요하게 여긴 포인트는?

Justin : 첫번째로, “검색” 서비스로서 기본을 지킬 수 있도록 다 함께 노력했어요. 검색 서비스의 본질은 “답변의 퀄리티”와 “답변 속도”에 있다고 생각합니다. 퀄리티와 속도를 모두 가져가려고 노력했고, 계속해서 노력할 예정입니다. 두번째로, “AI” 검색 서비스로서 줄 수 있는 가치와 그 가치를 잘 전달하는 것을 중요하게 생각했습니다. 기존의 검색엔진이 해줄 수 없었던 것을 뤼튼 AI 검색은 가능하도록이요. 여러 정보를 종합하여 결론을 만들어내고, 검색 결과를 보기 좋게 정리할 수 있는 것들이 그 예가 되겠습니다.
여전히 고민인 것은, “경험으로 쌓아올린 UX와 제품을 바라보는 시선”과 “기존과는 전혀 다른 새로운 UX와 접근방식”을 얼마나 잘 배합하고 녹여내느냐입니다. 생성형 AI 도메인에 속한 PM으로서 계속해서 고민할 영역인 것 같아요.

Ethan : 뤼튼 AI 검색은 이용자들에게 기존 검색보다 더 높은 만족감을 줄 것으로 기대합니다. 이를 위해서는 검색 엔진 특성들도 당연히 갖춰야 했어요.
앞으로는 뤼튼  AI 검색에서 유저의 검색 패턴을 반영할 수 있도록 노력하려 합니다. 내부적으로는 이미 다양한 검색 목표를 달성할 수 있게끔 확장성있는 시스템을 구축하고자 노력했습니다.

Kevin : 뤼튼 AI 검색은 사용자의 요청사항을 분석하여 스스로 어떻게 검색할지 결정합니다. 이때, 결정한 인공지능의 판단을 실제 검색 수행으로 이어줄 수 있는 부분에 많이 집중했던 것 같습니다.


Q. 뤼튼 AI 검색 개발에서 가장 힘들거나 까다로웠던 점은?

Justin : 첨예한 기술을 어떻게 하면 사람들이 받아들일 수 있는 모습으로 전달할 수 있을지가 매순간 도전이었던 것 같아요. 더 좋은 서비스를 위해 영화 ‘매트릭스’에서처럼 제 머리에 ML Engineer들의 지식을 입력하고 싶기도 했어요. 

Ethan : 특히나 뤼튼 AI 검색은 기술 기반 서비스이다보니, 항상 기획자 분들이나 PM분들과 소통하는게 고민입니다. 생성AI 도메인은 매일매일 눈 하나깜짝할 사이에 발전하는데, 팀으로서 이런 거대한 파도에 휩쓸리지 않고 올라타는 방법을 같이 모색하고 있습니다. 특히나 이번 뤼튼 AI검색에서는 정말 순식간에 기능에 대한 논의가 이루어졌어요. 그래서 MLE/DE 주도로 기능 기획부터 개발까지가 모두 이루어졌습니다. 그 과정에서 다양한 파트와 주도적으로 논의를 해야했었는데, 저희 팀분들은 기획에 대한 고민부터 인프라, 백엔드 엔지니어링까지 하시는 능력자 분들이 많아서 소통이 비교적 수월했습니다.
뤼튼에서는 AI 도메인 지식을 갖고 있고, 동시에 다양한 서비스 지표를 고민하거나, UX를 고민하거나, 아름다운 디자인을 고민할 수 있는 다양한 동료를 찾고 있습니다. 많은 관심 부탁드려요~ (갑자기 홍보)

Kevin : 어떻게 보면 비하인드 스토리일 수도 있는데요. 사실 저는 뤼튼 AI 검색이 한 번의 검색을 수행할 것이라고 생각했어요. 그런데, 여러 개를 비교하는 질문 같은 경우에는 여러 번의 검색을 수행하는 판단을 하기도 하더라고요. 그래서 이런 부분을 실제 검색 수행으로 만드는 부분도 구조를 다시 한 번 생각하게 되는 계기가 되기도 하였습니다. 또한, 이런 부분이 억제가 안될 때도 있더라고요. 예를 들어서 “싹 다 찾아줘” 이런 경우 5번 혹은 그 이상의 검색을 하려고 판단하기도 했습니다. 이런 부분을 컨트롤하는 부분이 어려웠습니다. 


Q. 뤼튼 AI 검색을 가장 잘 활용하려면 어떻게 쓰면 좋을까요?

Justin : 뤼튼 AI 검색은 정말 많은 것을 할 수 있어요.
가령, 기존에는 어떤 제품을 구매하려고 할 때, 여러 사이트를 돌아다니며 제품 스펙과 후기 정보를 수집하고 이를 스스로 종합하여 결론을 내렸어야 했어요. 뤼튼 AI 검색은 우리가 판단만 하면 되도록, 제품을 비교 분석하고 정리해줍니다.(“에어팟 맥스 포함한성능 좋은 헤드셋 5개를 성능 비교해서 정리해줘.”)
특정 주제로 정보를 찾을 때에도 마찬가지에요. 무수히 많은 크롬 탭을 켜놓고 전부 정독해가며 종합하고 요약해야만 했죠. 뤼튼 AI 검색은 우리가 해야 했던 반복작업을 대신해주는 친절한 동료입니다. (“최근 이슈인 의료 개혁 논란 정리해줘.”)
여행 계획을 세울 때도 활용할 수 있어요. 저는 여행을 갈 때, 여행 관련 책 5권, 블로그 포스팅, 여행 앱 등을 활용해 관광명소와 먹거리, 문화를 파악하고 기간에 맞춰 효율적인 동선을 작성합니다. 저처럼 하는 사람이 얼마나 있을지는 모르겠지만, 이런 유형의 도움도 받을 수 있다는 것을 알려드리고 싶었어요.(“싱가폴 관광명소 기준으로 2박 3일간 여행동선 작성해줘. 오전 9시 싱가폴 도착이고 마지막날 오후 11시에 싱가폴에서 출국이야.”)
여러분들이 AI 검색을 잘 활용하셨으면 하는 바람으로, 이러한 예시들을 입력박스 아래에 칩 형태로 제공하고 있으니, 시범 삼아 눌러보세요.

Ethan : 뤼튼 AI 검색은 이 글을 읽고 있는 동안에도 발전하고 있습니다. 본인이 원하는 것을 솔직하게 말해주세요. 그리고 동일하게 조금 있다가 새로운 채팅방에서 질문하면 더 나은 답변을 얻을 수 있습니다.

Kevin : AI와 대화하듯이 물어봐도 좋지만, 내가 명확하게 검색하고 싶은 것이 있다면 키워드를 강조해서 검색해달라고 요청하는 것도 좋을 것 같아요. 저는 주로 화제가 된 키워드를 주로 검색해서 보는데 나만을 위한 요약 리포트를 만들어주는 것 같아서 자주 검색하곤 합니다.


Q. 마지막으로 뤼튼 AI 검색 이용자들에게 들려주고 싶은 이야기가 있다면요?

Justin : 생성 AI산업이 본격적으로 태동하며 끓어오르고 있는 지금, 산업과 시장을 키우는 과정 속에서 우리 모두가 함께 성장하면 좋겠습니다. 이제 시작입니다. 생성 AI이기에 줄 수 있는 가치를, 효과적으로 전달하기 위해 집요하게 파고들 예정입니다. 뤼튼 AI 검색이 계속해서 발전하는 모습을 지켜봐주시고, 많은 관심과 응원 부탁드리겠습니다.  마지막으로! 어렵게 생각하지 말고 기존에 검색하시던 대로 사용해보세요. 대신 친구에게 설명하듯 구체적으로 요구하고 맥락을 설명해주면 더욱 놀라운 결과를 받아보실 수 있을 겁니다.

Ethan : 뤼튼은 나와 가장 가까운 AGI를 만드는 회사입니다. 유저가 원하는 것, 하고 싶은 것을 알고 알아서 대신 해주는 엄마같은..? 이것과 가장 닮아 있는 기존 유즈케이스는 “검색”이라고 생각했고, 뤼튼 AI 검색은 AGI를 달성하기 위한 주춧돌이 될 것으로 생각하고 있습니다. 그래서 이용자들에게 이 말씀을 드리고 싶어요. “당신의 첫번째 AGI, 지금 바로 뤼튼에서”

Kevin : 검색 의도마다 보고 싶은 정보의 형태가 다양할 것이라고 생각합니다. 특히 생성 AI 시대에서 이런 다양한 형태를 보여줄 수 있는 시대가 왔다고 생각하기도 하고요. 그런 부분들을 사용자의 의도에 알맞고 누가 사용해도 쉬운 AI 검색을 만들고 싶습니다. 많은 피드백 주셨으면 좋겠고, 뤼튼 AI 검색은 이제 시작입니다!

지금까지 뤼튼의 핵심이 될 ‘AI 검색’의 특징과 장점, 개발 배경 등을 살펴봤는데요. 재밌게 보셨나요? 앞으로 뤼튼은 변화하는 검색 니즈와 이용 패턴에 ‘AI 검색’으로 부응함으로써 AI 대중화에 앞장 서려고 합니다. 뤼튼의 도전에 많은 관심과 응원 부탁드립니다.