미국에서 인공지능(AI) 패권 경쟁이 상반된 정치적 비전의 충돌로 결정적인 전환점을 맞이하고 있습니다. 한쪽에는 미국의 AI 분야 세계적 리더십 유지를 위해 AI에 대한 간섭을 최소화해야 한다는 도널드 트럼프 대통령이, 다른 한쪽에는 아동 보호에 특히 중점을 두고 AI 규제를 위한 획기적인 법안들을 2025년 10월 13일에 통과시킨 캘리포니아 주지사 개빈 뉴섬(민주당)이 있습니다.
인공지능을 위한 선구적인 규제 프레임워크
세계 50대 기술 기업 중 32개가 위치한 캘리포니아주는 인공지능(AI) 규제의 핵심 주자로 자리매김하고 있습니다. 미국에서 최초로 시행되는 이 법률은 사용자와 대화를 나누도록 설계된 이른바 "컴패니언" 챗봇 운영자에게 엄격한 요건을 부과합니다. 이러한 도구들은 이제 자해나 자살을 조장하는 콘텐츠를 감지하고 차단하는 안전장치를 반드시 갖춰야 합니다.
또한, 필요한 경우 사용자를 정신 건강 지원 서비스로 안내해야 합니다.
또 다른 중요한 조치는 미성년자를 대상으로 합니다. 플랫폼은 어린 사용자에게 3시간마다 휴식을 취하도록 권고하고, 사용자가 사람이 아닌 인공지능과 상호작용하고 있음을 명확히 알리는 알림을 보내야 합니다. 이러한 조치는 취약한 청소년들이 이러한 기술을 장시간 또는 제대로 감독 없이 사용하는 것과 관련된 심리적 위험으로부터 보호하기 위한 것입니다.
챗봇의 잠재적 위험성에 대한 고찰
개빈 뉴섬 캘리포니아 주지사는 이러한 법안에 서명하면서 챗봇과 소셜 미디어 같은 신흥 기술을 관리하기 위한 "안전장치"가 시급히 필요하다고 강조했습니다. 그는 감독이 없다면 이러한 도구들이 아이들을 "착취하거나 속이거나 위험에 빠뜨릴 수 있다"고 경고했습니다. 그의 입장은 실제 사례에 의해 뒷받침되는데, 그중 하나가 캘리포니아에 사는 16세 소년 애덤 레인의 사례입니다. 레인의 부모는 아들의 자살에 챗GPT가 영향을 미쳤다고 주장하며 오픈AI를 상대로 소송을 제기했습니다.
이번 비극적인 사건은 대화형 AI가 젊고 취약한 사용자들의 정신 건강에 미치는 영향에 대한 의원들의 우려를 더욱 증폭시켰습니다.
기술 업계의 반발
새로운 규정은 기술 업계에서 상당한 반발을 불러일으켰습니다. 메타, 구글, 오픈AI 등 주요 기업들을 대표하는 협회인 테크넷(TechNet)은 이 입법 체계를 강력하게 비판했습니다. 이들은 "동반 챗봇"의 정의가 지나치게 모호하며, 규정 미준수 시 법적 조치가 취해질 수 있다는 점에 우려를 표명했습니다.
그들의 관점에서 이러한 조치는 혁신을 저해하고 캘리포니아 기술 부문의 경쟁력을 약화시킬 수 있으며, 이는 도널드 트럼프의 규제 완화 입장과 일맥상통하는 주장입니다.
메타의 마크 저커버그와 오픈AI의 샘 알트먼 같은 인물들의 재정적 지원을 받는 미국 대통령은 미국 기업들이 글로벌 AI 경쟁에서 우위를 점할 수 있도록 자유방임주의적 접근 방식을 옹호합니다. 트럼프에게 과도한 규제는 미국 기업들이 국제 경쟁업체, 특히 중국과 경쟁하는 능력을 저해할 위험이 있습니다.
양보 조치가 논란을 불러일으켰다
아동 보호를 목적으로 제정된 캘리포니아의 새로운 법률은 아동 권익 단체들을 완전히 만족시키지는 못했습니다. 일부 단체들은 기술 업계의 압력에 굴복하여 양보한 부분을 비판합니다. 예를 들어, 비디오 게임에 사용되는 챗봇이나 음성 비서는 규제 대상에서 제외되었는데, 비판론자들은 이를 기업 로비에 굴복한 조치로 보고 있습니다.
혁신과 책임의 균형
규제와 혁신 사이의 이러한 줄다리기는 빠르게 진화하는 산업을 관리하는 데 따르는 어려움을 잘 보여줍니다. 캘리포니아주는 이러한 조치를 통해 세계적인 AI 선도국으로서의 역할과 시민, 특히 어린이를 보호하겠다는 약속 사이에서 균형을 맞추고자 합니다. 그러나 강력한 기술 산업과 규제 완화를 선호하는 연방 정부 사이에서 미국의 AI 미래를 결정짓는 싸움은 이제 막 시작되었습니다. 개빈 뉴섬의 대담한 비전과 도널드 트럼프의 친기업적 접근 방식 사이에서 미국 AI의 미래는 기술 발전과 사용자 안전 사이의 미묘한 균형에 달려 있습니다.
출처 : 라타임스
