AI 환각 현상, 서비스 전문가의 권위를 위협하다
AI hallucinations are making entitled customers even worse
The Verge AIAI의 환각 현상으로 인해 식당, 여행지 등 다양한 서비스 현장에서 직원의 전문적인 설명보다 인공지능이 제공하는 정보를 더 신뢰하는 고객 사례가 늘고 있습니다.
고객들이 전문가의 조언보다 인공지능이 제공하는 정보를 더 신뢰하면서, 서비스 현장에서 인간 전문 지식의 가치가 위협받고 있어요.
- 과거 '고객은 항상 옳다'는 격언이 무력화되면서, 고객들은 알레르기 경고나 와인 지식 등 전문가의 판단을 넘어 AI가 만들어낸 허위 정보까지 진실로 받아들이는 경향을 보입니다.
- 서비스 현장 종사자들은 비현실적인 요청이나 잘못된 정보를 처리해야 하는 어려움을 겪으며, 이는 인간 간의 소통과 전문적 가치를 위협하고 있습니다.
- 고객들이 지도나 전문가 조언보다 외부 AI를 절대적 진실로 믿는 추세에 따라, 서비스 현장에서는 정보의 출처와 현실 검증 과정에 대한 재인식이 중요해지고 있습니다.
식당 등 서비스 현장에서 AI가 제공하는 정보가 전문 지식을 무력화시키고 있다는 사례가 보고되었다. 한 서버는 고객들이 알레르기 경고를 무시하고 챗GPT의 답변을 신뢰하며 위험한 음식을 주문하는 상황을 목격했다고 전했다. 또한, 와인 전문가(sommelier)에게 대신 질문하거나 레스토랑이 취급하지 않는 가상의 와인을 요청하는 등 AI 사용 증가가 관찰되어 서비스 종사자들에게 어려움을 주고 있다.
공공 및 육아 분야에서도 AI의 영향력이 확인되었다. 한 국립 공원 레인저는 방문객들이 비현실적인 AI 생성 여행 일정을 가지고 오며, 지도나 전문가 설명에도 불구하고 챗GPT를 더 신뢰하는 경향을 지적했다. 또한 아동 발달 관련 질문에 대해 부모들이 전문 기관의 조언보다 챗GPT의 답변을 절대적으로 믿고 따르는 사례가 보고되기도 했다.
이러한 현상은 고객 서비스 전반으로 확산되어, 상품이나 예약 대행 등에서 의 활용이 늘어나고 있다. 서비스 종사자들은 AI가 만들어낸 허위 정보나 비현실적인 요구를 처리해야 하는 어려움을 겪으며, 이는 인간 간 직접 소통을 통해 해결되는 전문적 가치를 위협하고 있다는 지적이 나온다.
용어 풀이
- AI 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
AI가 전문가의 권위를 어떻게 무력화시키나요?
식당 같은 서비스 현장에서는 고객들이 알레르기 경고를 무시하고 챗GPT의 답변을 신뢰하거나, 와인 전문가에게 대신 질문하는 등 전문 지식보다 AI 정보를 더 믿는 사례가 늘어나고 있어요. 또한, 서비스 종사자들은 AI가 만든 허위 정보나 비현실적인 요구를 처리해야 하는 어려움을 겪어요.
AI의 영향력은 어떤 분야에서 확인되었나요?
식당 같은 서비스 현장 외에도 공공 및 육아 분야에서도 영향을 미치고 있어요. 방문객들이 국립 공원에서 지도나 전문가 설명보다 챗GPT를 더 신뢰하거나, 부모들이 아동 발달 관련 질문에 대해 전문 기관의 조언보다 AI 답변을 따르는 사례가 보고되었어요.
서비스 현장에서 가장 큰 어려움은 무엇인가요?
서비스 종사자들이 AI가 만들어낸 허위 정보나 비현실적인 요구를 처리해야 하는 어려움을 겪고 있어요. 이는 인간 간의 직접 소통을 통해 해결되는 전문적 가치를 위협하는 문제예요.