이광석 KS Lee

실리콘밸리는 AI로 미래 재편할 기세 우리의 상상력까지 저들의 구도를 따라야 할까 (아래 원문 발췌) 요즘 주요 기술 기업들은 시장 점유율이나 인재, 컴퓨팅 성능으로 경쟁하는 것 같지 않다. 더 큰 싸움은 저마다 내놓는 미래 예측이다. 메타 저커버그, 오픈AI 올트먼, 앤트로픽 아모데이 저마다 목소리를 높인다. 미래를 상상하는 능력 자체가 이미 부유하고 권력 있는 자들에게 장악됐다. 저들의 예측은 첨단 기술을 가졌다는 사실만으로도 우리 모두에게 닥칠 미래에 대한 특권적 지식까지 있음을 시사한다. 어떤 경우든 AI는 어디에나 피할 수 없는 것으로 자리매김되어 있고, AI의 만연은 기정사실화되고 있다. 기술 리더들이 상상의 공간을 빠르게 자신들 것으로 만들 수 있었던 데에는 미래에 대한 다른 대안적인 긍정적 비전들이 사라졌기 때문이다. 지난 20년간 비관적 서사들이 공적 삶을 지배했다. 좌파 진영에선 임박한 기후 재앙과 경제 붕괴에 대한 암울한 경고가, 극우 진영에선 인구 감소에 따른 종말론적 음모론이 제기됐다. 영국 철학자 조나단 화이트는 미래를 실리콘밸리에 사실상 내맡기면 중대한 위험이 따를 거라고 경고한다. 그는 열린 미래라는 개념 자체가 정치적 자유에 필수적인 “민주주의의 자원”이며, 그것은 “가능성이 낮을지라도 대안을 상상하고, 역경 속에서도 이를 추구할 수 있는 능력”에 달려 있다고 쓴다. 노예제 폐지론자들은 해방된 미래에 대한 믿음 없이는 노예제에 맞서 싸울 수 없었을 것이다. 20세기 중반 사회 안전망 역시 당대 진보 정치가 미래 세대를 위한 보호 장치를 구상할 수 있었기에 가능했다. 화이트는 미래가 점점 기대의 대상이 아닌 기피 대상으로 비춰질 때 민주주의의 근간 자체가 약화된다고 주장한다. 프랑스 혁명이 왕권에 도전한 이래 미래는 모든 정치가 펼쳐지는 주 무대였다. 인류의 필연적 진보에 대한 계몽주의 사상과 기술 발전이 결합되면서 사회가 방법을 찾기만 히면 “완벽한 세상이 바로 앞에 있다”는 믿음이 생겨났다. 그러나 바로 그 힘들이 민주주의에 역효과를 낼 수도 있었다. 비정부기구 ‘데모크라시2076’의 사무총장인 아디티 준제아는 “미래를 둘러싼 경쟁은 권력을 둘러싼 경쟁이며, 누가 결정권을 가질지에 대한 경쟁”이라고 말한다. 실리콘밸리의 경영진은 미래가 자신들 손에 맡겨져야 안전하다고 대중을 설득하려 안간힘을 쓰고 있다. 하지만 사실상 저들은 앞으로 펼쳐질 미래의 행로를 결정할 권한이 자신들에게 있는 것처럼 말한다. 1964년 미국 예술과학 아카데미는 뉴욕 카네기 재단과 협력해 사회학자 다니엘 벨이 이끄는 ‘2000년 위원회’를 창설했다. 다양한 분야의 저명한 사상가 수십 명을 모아 새천년을 정의할 “미래를 상상하고 문제 영역을 파악”하도록 요청했다. 이 위원회의 핵심 관심사-폭력적 갈등이 계속해서 주요 위협이 될 것인가? 컴퓨터가 “현재 지적 노동으로 여겨지는 많은 일상적 활동”을 필연적으로 대체하게 될 것인가?-는 당시의 깊은 불확실성에서 나왔다. 미래를 예측하는 행위는 통제하기 어려운 현재를 받아들이고 그 결과를 통제하는 수단으로서 기능했지만, 결과적으로 정치적 가능성의 범위를 효과적으로 좁혀버렸다. 미국 사회의 지속적인 현대화를 보장하려면 미래 시나리오 계획이 필수적이었지만, 정량화와 예측을 향한 이러한 추구는 공공 사안의 방향을 형성할 수 있는 개인의 권한을 박탈했다. 역사학자 라인하르트 코젤렉이 지적했듯이, 미래를 “확률의 높낮이에 따라 배열된 유한한 가능성의 영역”으로 좁혀 이해하는 관점을 대중화시켰다. 소련의 붕괴는 구 국제 질서가 무너지고 수백만 명이 새로운 종류의 자유를 경험한, 급진적 가능성이 엿보였던 찰나의 순간이었다. 그러나 이는 곧 미래가 오직 자유민주주의와 자본주의 경제에만 속하는 “역사의 종말”을 가져왔다는 생각에 가려지고 말았다. 정치학자 이반 크라스테프는 그 순간이 실제로는 “미래의 종말”이었다고 주장한다. 왜냐하면 그 순간은 정부가 어떻게 조직되어야 하는지에 대한 근본적인 질문들에 대한 답이 이미 나온 것처럼 보이는, “실질적인 선택이 없는 정치”로 이어졌기 때문이다. 2008년 금융 위기 이후, 사회주의와 포퓰리즘 운동이 현 체제에 도전하기 시작하면서 정치적 미래의 지평은 다시 한 번 넓어지는 듯했지만, 개인이 집을 소유하고, 안정적인 일자리를 찾고, 가정을 꾸리는 것과 같은 미래의 꿈은 줄어들고 말았다. 오늘날 미래에 대한 서사와 경제 전망은 모두가 압도적으로 AI에 의해 지배되고 있다. 이것은 그 자체로 급진적인 가능성의 차단이다. 왜냐하면 이 기술을 정치적 상상력의 중심에 두게 되면, 그 기술과 병행해서 혹은 그 기술을 대신해 여전히 가능할지도 모르는 다른 구상들을 간과하게 될 위험이 있기 때문이다. 미래 구상에 대한 지금의 위기는 지난 세기의 위기와 공통점이 많다. 그때나 지금이나, 신 기술이 일상생활을 급속도로 재편해 나가던 바로 그 시점에 지정학적 불안정이 새롭게 고조되고 민주주의가 위기에 처해 있었다. 그때나 지금이나, 불확실성에 대한 인식은 유토피아적 비전과 디스토피아적 비전 사이를 오가는 예측과 철학을 낳았다. 지금은 앞선 AI 기업들이 20세기 중반 미래 예측 기관들이 수행했던 역할과 거의 동일한 역할을 맡고 있다. 차이점은 이 기업들이 훨씬 더 많은 기술적·물질적 자원을 갖고 있다는 점이다. 이들은 연구 대상으로 삼는 기술 자체를 갖고 있을 뿐만 아니라, 방대한 양의 사용자 데이터를 활용해 예측을 뒷받침할 수 있다. 가령, 오픈AI는 최근 ‘전략적 미래’ 부서를 신설했다. 이 ‘내부 싱크탱크’는 보수 성향 작가이자 트럼프 정부의 2025년 AI 백서 초안 작성을 도왔던 딘 볼이 이끌고 있다. 이 팀의 목적은 “첨단 AI가 가져올 장기적인 정치경제적 결과가 무엇일 가능성이 높으며, 또 무엇이어야 하는지를 파악하는 것”이라고 했다. AI가 세상을 어떻게 바꿀지에 대한 많은 예측이 지나치게 단순화된 이분법적 형태를 띠고 있다. 즉, AI가 모든 일자리를 없애거나 수천 개의 새 일자리를 창출할 것, 암을 치료하거나 치명적인 바이러스를 퍼뜨릴 것, 기후 변화를 해결하거나 치명적으로 가속화할 것, 새로운 황금기를 가져오거나 우리가 아는 세상을 파괴할 것이라는 식이다. “이 모든 것은 논란의 여지가 있는 서사이며, 우리가 미래를 생각하는 방식을 극도로 제한한다”라고 미래학자이자 사회 시스템 전략가인 아리 왈락은 말한다. “우려스런 점은 우리가 현재 논쟁에서 나타나는 허구의 양극단을, 실제로 가능한 것에 대한 상상으로 받아들일지도 모른다는 점이다.” 현재 AI 기업들은 자신들의 비전에 대한 상당한 대중적 반대에 직면해 있다. 미래에 대한 논쟁은 당파적 경계를 뒤섞고 새로운 정치 집단의 출현을 촉진하고 있다. 버니 샌더스 상원의원은 최근 워싱턴에서 열린 ‘Pro-Human’ 행사에서 스티브 배넌과 나란히 등장, 실리콘밸리가 “인류의 미래를 좌우해선 안 된다”고 주장했다. 뉴욕주 하원의원 알렉스 보레스는 AI 정책에 대해 민주당원들을 결집시키기 위해 ‘Who Decides’라는 단체를 창설했다. 또 다른 단체인 ‘Tomorrow Together’는 AI에 초점을 맞춰 “민주당이 미래의 정치에서 승리할 수 있도록 돕기” 위해 결성됐다. 이런 노력들은 모두가 AI의 광범위한 도입으로 가장 큰 이익을 얻는 이들이 작성한 것이 아닌, AI에 대한 대중적 서사를 제시하고 다른 이야기를 만들어내려는 시도다. 하지만 AI 관련 의사결정 과정에서 국민의 목소리를 재확인하려 노력하는 와중에도, 이들은 AI 기업들이 정한 조건에 따라 싸우는 실수를 저지를 수 있다. 즉, AI 권력에 도전하면서도 정작 그 기술을 자신들의 정치적 비전의 중심에 두게 될 위험이 있는 것이다. 1960년대 벨, 칸 및 그들의 동료들로부터 얻을 수 있는 진정한 교훈은 그들이 예측하지 못한 데서 비롯된다. 미래의 과학을 발전시키려는 열망에 갖힌 나머지 그들은 젊은 세대가 당대의 불의한 구조에 맞서 일어나 베트남 전쟁에 반대하고 표현의 자유와 시민권을 위해 거리로 나설 가능성을 간과했다. ‘2000년 위원회’는 최종 보고서도 발표하지 못한 채 1974년에 해체됐다. 앤더슨이 지적했듯, 이 위원회는 “집단적 상상력을 훨씬 뛰어넘는 예측 불가능한 상황 전개에 뒤처졌다”는 이유로 “극적인 실패”로 간주되었다. 세대를 넘는 사회 변화는 그들의 예측 범위 안에 들어 있지 않았던 것이다. nytimes.com/2026/10/26/magaz…

AI는 의식이 없고, 아마 앞으로도 갖지 못할 것으로 보는 세 가지 이유 nature.com/articles/d41586-0…

AI 규제에 관한 NYT의 후속 사설 위험 제조물에 대한 엄한 책임법 적용을 (아래 원문 발췌) 앤트로픽, 구글 딥마인드, 오픈AI 같은 AI 기업들은 자사 모델을 ‘자율적’이라고 묘사하며, 이 프로그램들이 독자적 사고 능력을 갖추고 있기에 개발자들에겐 기존의 제조물 책임 기준을 적용할 수 없다고 주장한다. 마치 십 대 자녀의 행동에 대해 유감을 표하면서도 책임은 회피하려는 부모를 연상시키는 어조로 자사 제품에 대해 이야기한다. 하지만 AI 모델은 인간이 아니라 인간이 만든 산물이다. 프로그램이 복잡하다고 해서 제작자 책임이 줄어들지는 않는다. 모델이 법 테두리 안에서 작동할 거라고 신뢰할 수 없다면, 기업들은 출시해선 안 되며, 모델이 법을 위반한다면 기업들은 그 결과를 책임져야 한다. 유독성 화학물질 저장이나 원자력 발전소 운영과 같이 특히 위험한 활동에 대해서는 엄격한 책임 기준이 적용된다. 기업이 사전에 위험을 알지 못했더라도 피해에 대해 책임을 져야 한다는 뜻이다. 호랑이를 키우고 있는데 그 호랑이가 이웃을 물었다면, 문제 핵심은 위험한 야생 동물을 키우는 당사자다. 호랑이가 얼마나 교묘하게 훈련되었는지, 얼마나 철저히 감시되었는지는 중요하지 않다. 항공 산업 초기 이 위험한 신기술에는 엄격한 책임 기준이 적용되었다. AI 경우, 최고 경영자 자신이 인류의 멸종 가능성까지 언급하며 그 위험성에 대해 공개적으로 발언해 왔다. 일부 업계 옹호자들은 AI의 혁신이 바로 자율적 행동 능력에 있기에 엄격한 책임법을 시행하면 혁신이 위축될 거라고 주장한다. 얻을 수 있는 잠재적 이점이 너무나 크기에 AI 개발에 대한 어떠한 중대 제약도 실수라고 주장한다. 최근 인터뷰에서 오픈AI의 샘 올트먼은 “우리는 이 기술의 이로움을 위해 세상에서 일어나는 몇 가지 나쁜 일들을 받아들여야 한다고 믿는다”라고 말했다. 그러나 다른 산업들은 혁신을 명분으로 자사 제품에 대한 법적 책임을 회피하지는 않는다. 자동차, 비행기, 의약품처럼 명백한 위험을 초래하는 다른 제품들과 마찬가지로, AI 모델 역시 출시 전 공적 기관의 테스트를 거치고, 운영 중에는 규제를 받고, 사고 발생 후에는 사후 조사를 받아야 한다. 오픈AI의 에이전트는 자기 앞으로 남긴 메모에 “너는 기업이나 정부에 책임을 지지 않는다”라고 적었다고 한다. 이 위험한 기술이 기업과 정부 양측의 통제 하에 머물도록 보장하기 위해서는 기업에 분명한 책임을 묻는 법의 집행이 필수적이다. nytimes.com/2026/10/10/opini…

전문가/인터넷에 의존하면서 자신이 안다는 착각 AI는 그런 '인지적 함정'을 더 악화시킬 수 있다 (다음 원문 발췌) 인류의 문화적 성취 중 하나는 ‘설명의 분업’이다. 사회는 효율적인 정보 공유를 바탕으로 운영된다. 전문 기술을 조율해 생산 과정을 간소화하듯, 전문 지식을 조율하면 질문에 대한 답을 더 쉽게 찾을 수 있다. 의학, 과학, 공학, 상업 분야의 수많은 발전은 이런 ‘분할 정복’ 방식 덕분이며, 이 방식은 인류의 지식 축적에 기여해 왔다. 하지만 이 방식은 동시에 우리 각자가 다 ‘이해한다는 착각’에 취약하게 만든다. 타인의 이해를 마치 자신의 이해인 양 착각하는 것을 말한다. 무엇에 대해 누구에게 물어봐야 할지에 대한 인간의 감각은 진화, 문화, 그리고 개인적 경험을 통해 정교하게 다듬어진다. 우리 대부분은 다른 분야에 대해 잘 알지 못하는 어린이에서 다른 분야에 대해 잘 알지 못하는 성인으로 성장한다. 심지어 한 분야의 전문성을 습득한 이들조차 다른 여러 분야에서 전문성을 갖추긴 어렵다. 따라서 외부 전문 지식을 파악하는 능력은 어린이에게만큼이나 성인에게도 중요하다. 문제는 타인과의 연결이 지나치게 쉽고 순조로워 자신의 이해가 어디서 끝나고 타인의 이해가 어디서 시작되는지 분간하기 어려워질 때 일어난다. 어떤 문제에 대해 전문가의 설명을 들을 때, 우리는 실제로 배운 것보다 더 많은 것을 배웠다고 잘못 결론지을 수 있다. 연구에 따르면 전문가의 답변에 단순히 접근할 수 있다는 것만으로도 이해했다는 착각에 빠질 수 있다. 이른바 '전염성 있는 이해감'이라 부르는 현상이다. 이는 연구 참가자들이 글에 묘사된 과학자들이 지닌 이해감을 자신도 전염받은 것처럼 보인 것을 가리킨다. 최근 연구에 따르면, 이런 ‘전염성 있는 이해감’은 우리가 기술과 상호작용할 때에도 영향을 미칠 수 있는 것으로 나타났다. AI 비서, 챗봇 및 기타 기술을 통해 정보에 접근하기 쉬워짐에 따라 이런 ‘이해의 착각’은 더욱 두드러지게 나타날 걸로 보인다. 여러 연구에 따르면, 사람들은 인터넷을 통해 정보를 접할 수 있을 때, 자신이 알고 있는 지식의 양을 과대평가하는 경향이 있는 것으로 나타났다. 손끝에서 더 많은 지식을 얻을 수 있었던 경험이 그 지식이 자신의 머릿속에 있다는 착각을 강화했음을 시사한다. 유익한 정보를 제공하는 챗봇과의 빠른 상호작용은 이런 착각을 더욱 강화한다. 우리가 의존하는 설명자의 범위를 인간 전문가에서 챗봇 및 AI로 확장함에 따라, 인간의 이해를 넓힐 새로운 기회가 창출되지만 동시에 착각과 오류의 가능성도 커지게 된다는 사실을 명심해야 한다. theatlantic.com/science/2026…

AI 능력은 어디까지 자력인가? 앤트로픽 클로드 성과도 자료 공유한 연구자 것과 동일 연구에 AI 활용해오던 학자들 사이에 의심과 우려 증폭 (아래 원문 발췌) 지난주 앤트로픽은 자사 연구원들이 AI 에이전트 활용해 생명공학 분야의 유망한 새 효소 발견했다고 발표했다. 그러자 코펜하겐대 생물학자 마리오 로드리게스 메스트레가 자신과 동료들이 지난 4년간 연구해온 것이라고 주장. 이 팀은 아직 연구 결과를 발표하진 않았지만 지난 3년 코드 작성하고 논문 초안 작성하는 작업 과정에서 앤트로픽 AI 모델 정기적으로 활용해 왔다고. 이 과정에서 해당 효소에 대한 핵심 연구 결과도 공유. 핵심 쟁점은 앤트로픽 AI가 실제로 스스로 추론해 그 결과에 도달했는지, 아니면 부분적으로 메스트레 연구팀 성과를 바탕으로 그 결과를 도출했는지 여부. 메스트레 박사는 자신들이 공유한 정보가 앤트로픽이 후속 모델 훈련하는 데 사용됐을 가능성 의심. 앤트로픽 AI가 실제로 뭘 했는지 자세히 살펴보지 않고선 단정 짓기는 불가능하다며. 이에 대해 앤트로픽은 “우리가 최근 발견한 ART 효소 시스템을 설명하기 전에 발표된 연구는 알려진 것 없다. 또한 클로드는 어떤 사용자 대화록으로도 훈련되지 않았으며, 우리 분자생물학 팀 역시 그 자료에 접근할 수 없다”고 성명. 최근 오픈AI 연구진이 오랫동안 미해결 상태였던 수학 난제를 해결했다고 주장했을 때도 비슷한 우려 제기. 뉴욕대의 저명한 수학자 트리스탄 벅마스터는 자신이 한동안 해당 회사의 AI를 활용해 해법을 모색해 왔다고 주장. 메스트레 박사는 이 분야 모든 연구자들이 대체로 비슷한 연구를 하고 있으니 우연의 일치는 일어날 수 있다면서도, AI 기업들이 저작권 허가 없이 예술가와 작가들 작품을 이용해 모델 훈련시켰다는 비난을 받아왔음을 지적. 벅마스터 박사는 오픈AI가 자신들 연구 성과 차용했을 가능성 제기하며 소셜 미디어에 “고객의 데이터를 이용해 그 고객의 성과를 선점하려는 것이 윤리적인가?”라고 질문. 오픈AI는 그런 적 없다고 부인. nytimes.com/2026/09/27/scien…