AI 의사 뛰어넘는 진단 능력, 뉴욕주 법안은 왜 막으려 할까?
상상해보세요. 당신의 건강에 대한 중요한 질문, 혹은 복잡한 법률 문제에 대한 답을 찾고 싶은데, 변호사나 의사를 고용할 경제적 여유가 없습니다. 마땅히 도움을 청할 곳이 없어 막막한 상황에 놓인 뉴욕 시민들이 많다는 사실, 알고 계셨나요? 그런데 최근 뉴욕주에서는 오히려 이러한 사람들에게 실질적인 도움을 줄 수 있는 AI 기술을 규제하려는 움직임이 나타나고 있습니다. 마치 "고통받는 서민에게 희망을 주려던 AI를 귀족들이 막아선 꼴"이라는 비판이 나오고 있는데요. 과연 어떤 사연일까요? 오늘 lucyyul.com에서는 뉴욕주의 AI 규제 움직임과 그 이면에 숨겨진 이야기들을 깊이 파헤쳐 보겠습니다.
도대체 AI가 의사보다 낫다는 건 무슨 소리야?
솔직히 처음 들으면 믿기 어렵죠. 수년간의 훈련과 경험을 쌓은 전문 의사들의 진단 능력을 AI가 뛰어넘는다는 말이 현실적으로 와닿지 않을 수 있습니다. 하지만 'NEJM Image Challenge'라는 권위 있는 의학 진단 테스트 결과는 이러한 우리의 편견을 뒤흔들고 있습니다. 무려 6만 명 이상의 의사가 참여한 이 테스트에서, 모든 대규모 언어 모델(LLM)이 의사들의 평균 점수를 훨씬 상회하는 놀라운 성적을 거두었습니다. 특히 신경방사선학 분야에서는 Claude 3.5 모델이 80.4%의 정확도를 보인 반면, 1년 차 레지던트는 71.4%, 주니어 교수진은 51.8%에 그쳤습니다. 이 정도면 단순한 '도움'을 넘어선 '정확한 진단'이라고 할 수 있겠죠. AI가 단순히 정보를 나열하는 수준이 아니라, 복잡한 의료 이미지를 분석하고 인간 의사보다 더 정확한 진단을 내릴 수 있다는 증거입니다. 이건 마치 숙련된 전문가도 몇 번이고 고민해야 할 문제를 AI는 단 몇 초 만에, 그리고 훨씬 더 높은 정확도로 풀어내는 것과 같습니다.
AI 규제하려는 뉴욕주의 속마음은 뭐지?
뉴욕주 상원의원인 크리스틴 곤잘레스는 S7263 법안을 통해 AI 챗봇이 의학, 법률, 공학 등 13개 이상의 전문 직종에 대한 "실질적인 응답"을 제공할 경우, AI 개발사에게 민사상 책임을 묻겠다는 내용을 제안했습니다. 언뜻 들으면 소비자를 보호하고 부실한 AI 정보를 막으려는 취지로 보일 수 있습니다. 실제로 곤잘레스 의원은 이 법안이 "소비자를 보호한다"고 강조하기도 했죠. 하지만 법안의 다른 설명에서는 "AI 사용으로부터 노동력을 보호해야 할 시급한 필요에 대처한다"고 언급하며, 결국 이 법안의 주된 목적이 AI로 인해 일자리를 잃을 수 있는 기존 전문가 집단을 보호하는 데 있다는 비판이 제기되고 있습니다. 300달러를 받는 변호사나 의사들의 이익을 보호하고, 정작 의료 서비스나 법률 자문을 받기 어려운 수많은 뉴요커들의 유일한 희망을 빼앗으려 한다는 지적입니다. AI의 정확한 진단 능력이 오히려 기존 전문가들의 '높은 비용'을 정당화하기 어렵게 만들자, 그들이 위협을 느껴 AI를 규제하려 한다는 분석이 설득력을 얻고 있습니다.
그래도 AI 사용, 위험한 거 아니야?
물론 AI가 만능은 아닙니다. AI의 오용이나 부정확한 정보 제공으로 인해 발생할 수 있는 위험에 대한 우려도 분명 존재합니다. 뉴욕주 법안의 근거 중 하나로 미국 심리학회(APA)가 "챗봇 치료사가 취약한 사람들을 자해나 타해로 몰아갈 수 있다"고 경고한 내용을 언급하기도 합니다. 실제로 AI가 제공하는 잘못된 의료 정보로 인해 심각한 결과를 초래할 가능성을 완전히 배제할 수는 없습니다. 만약 AI가 잘못된 진단을 내리거나, 위험한 조언을 했을 때 그 책임을 누가 져야 하는가에 대한 문제 제기는 당연한 것입니다. 특히 현재 제안된 법안은 "AI 시스템과 상호작용하고 있다는 사실을 소비자에게 알린다고 해서 이 책임을 면제받거나 포기할 수 없다"고 명시하고 있어, AI 개발사들에게는 엄청난 부담이 될 수 있습니다. 이는 결국 AI 기술 발전 자체를 위축시키고, 챗봇 서비스 출시를 꺼리게 만드는 결과를 초래할 수 있습니다. 섣부른 규제가 AI의 긍정적인 가능성까지 묻어버릴 수 있다는 점을 간과해서는 안 됩니다.
“이게 나한테 왜 중요해?” – AI의 가능성과 우리의 미래
뉴욕주의 이번 움직임은 단순히 한 지역의 규제 시도를 넘어, 우리 모두에게 중요한 시사점을 던져줍니다. 현재 미국에서만 연간 25만 명 이상이 의료 오류로 사망하는 것으로 추정됩니다. 이는 미국에서 세 번째로 높은 사망 원인이며, 현재 의료 시스템의 심각한 문제를 보여주는 지표입니다. 이러한 상황에서 AI는 진단 오류를 줄이고, 의료 접근성을 높이며, 의료 비용을 절감할 수 있는 강력한 도구가 될 수 있습니다. 또한, 법률, 금융, 교육 등 다양한 분야에서도 AI는 정보 접근성을 높이고 비효율성을 개선하는 데 기여할 수 있습니다. 특히 경제적으로 어려운 사람들에게는 AI가 유일한 희망이 될 수도 있습니다. AI의 잠재력을 인정하고, 안전하면서도 효과적인 활용 방안을 모색하는 것이 중요하지, 무조건적인 규제로 잠재력을 억누르는 것은 어리석은 일입니다. AI는 더 이상 먼 미래의 기술이 아니라, 우리의 삶과 직결된 현실입니다. 이 기술이 가져올 혜택을 온전히 누리기 위해 우리는 어떤 선택을 해야 할까요?
결국 우리가 알아야 할 것
AI가 인간 의사를 능가하는 진단 능력을 보여주는 시대에, 뉴욕주가 AI의 의료 및 법률 분야 활용을 규제하려는 움직임은 매우 역설적입니다. 이는 AI 기술 발전 자체를 억제하고, 특히 경제적 약자들에게는 중요한 도움의 손길이 될 수 있는 AI 서비스를 차단할 위험이 있습니다. AI의 잠재력을 제대로 활용하기 위해서는 무조건적인 규제보다는, 안전성을 확보하면서도 혁신을 저해하지 않는 균형 잡힌 접근이 필요합니다. AI는 분명 오류의 가능성이 있지만, 현재 시스템의 문제점을 개선하고 더 많은 사람들에게 기회를 제공할 수 있는 강력한 도구가 될 수 있기 때문입니다. 우리가 AI 시대를 현명하게 맞이하기 위해서는, 기술의 발전 속도에 발맞춘 열린 자세와 신중한 정책 결정이 절실합니다.
원문 참고: https://garryslist.org/posts/new-york-wants-to-ban-the-ai-that-outscores-doctors
⚠️ 의학적 주의사항
본 콘텐츠는 정보 제공 목적으로 작성되었으며, 의학적 조언이나 진단으로 간주될 수 없습니다. 특정 질환이나 건강 문제에 대한 판단은 반드시 전문 의료인과 상담하시기 바랍니다.
댓글 쓰기