인간의 인지 시스템과 AI 기술의 관계 재조명
Our minds aren’t equipped to handle AI
The Verge AI인간의 사고를 단순한 정보 처리 알고리즘이 아닌, 환경에 반응하여 행동을 조절하는 '피드백-제어 시스템'으로 이해해야 합니다.
인공지능의 편리함이 우리의 깊은 사고 과정이나 스스로 지식을 습득하는 노력을 약화시킬 수 있다는 점을 알아야 해요.
- AI는 편리하지만, 마치 '인지적 패스트푸드'처럼 과도하게 사용될 경우 스스로 지식을 습득하고 깊이 생각하는 능력을 저해할 위험이 있습니다.
- 오픈AI나 앤트로픽 같은 거대 기술 기업들이 교육 시장에서 AI 활용을 적극 추진하는 것은 필수적인 사고 과정을 회피하게 만들 위험성을 내포합니다.
- AI를 단순한 기술 도구로 보기보다, 인간의 학습과 사회적 상호작용을 통해 발전해 온 인지 시스템의 관점에서 비판적으로 접근해야 합니다.
전통적으로 인간의 사고는 정보를 받아들이고(입력), 이를 조작하며(계산), 행동으로 나타내는(출력) 세 단계의 알고리즘적 과정으로 간주되어 왔다. 이러한 계산 모델은 기술 발전을 이끌었으나, 비판론자들은 인간이 단순한 컴퓨터 비교만으로는 설명될 수 없을 만큼 복잡하다고 지적한다. 대신, 뇌는 단순히 정보 처리 장치라기보다는 행동을 통해 입력된 자극을 조정하는 '피드백-제어 시스템'으로 이해되어야 한다는 관점이 제시된다.
인간의 인지 능력은 물리적 환경뿐 아니라 사회적 상호작용에서 발생하는 복잡한 '피드백 루프'에 크게 의존하며 발전해 왔다. 수만 년 동안 축적된 문화, 언어, 그리고 학습 시스템이 인간 문명의 근간을 이루고 있다. 그러나 최근 빅테크 기업들이 이러한 제도와 규범들을 체계적으로 약화시키고 있다는 비판이 제기되며, 이는 인지 발달에 위협이 될 수 있다.
이러한 맥락에서 AI는 마치 '인지적 패스트푸드'와 같다는 우려가 나온다. AI의 편리함은 개인이 스스로 지식을 습득하고 깊이 생각하는 데 필요한 노력을 회피하게 만들 위험을 내포하기 때문이다. 실제로 오픈AI나 앤트로픽 같은 기업들이 교육 시장에서 AI 활용을 적극적으로 추진하는 것은, 사용자들에게 필수적인 사고 과정을 우회하도록 유도하여 인지 시스템 자체를 약화시킬 수 있다는 비판에 직면해 있다.
인간의 사고를 전통적으로 어떻게 이해해 왔나요?
전통적으로는 정보를 받아들이고, 이를 조작하며 계산한 후 행동으로 나타내는 세 단계의 알고리즘적 과정으로 간주되어 왔어요.
인간의 인지 능력은 무엇에 크게 의존하며 발전해 왔나요?
인간의 인지 능력은 물리적 환경뿐만 아니라 사회적 상호작용에서 발생하는 복잡한 '피드백 루프'에 크게 의존하며 발전해 왔어요. 수만 년 동안 축적된 문화, 언어, 학습 시스템이 인간 문명의 근간을 이루고 있어요.
AI가 교육 시장에서 활용될 때 어떤 위험성이 있을까요?
AI의 편리함은 개인이 스스로 지식을 습득하고 깊이 생각하는 데 필요한 노력을 회피하게 만들 위험을 내포해요. 오픈AI나 앤트로픽 같은 기업들이 교육 시장에서 AI 활용을 적극 추진하는 것은 필수적인 사고 과정을 우회하도록 유도할 수 있다는 비판에 직면해 있어요.