프랑스, ChatGPT·Gemini에 의약품식 승인 제안

ChatGPT와 Gemini에 요구되는 사전 평가는 무엇인가

가장 무거운 제안은 일반 대중용 생성형 AI를 시장에 내놓기 전, 그리고 유지하는 동안에도 여러 분야 전문가의 영향 평가를 받게 하자는 것입니다. 대상은 일반 소비자용 서비스로 한정되며 ChatGPT와 Gemini가 대표적입니다. 업무용 도구는 제외됩니다. 베니아미나는 의약품과 같은 '시판 허가'라고 설명합니다.

보고서는 당국과 인가받은 연구자가 학습 데이터, 이용 데이터, 수익화 데이터에 접근할 수 있어야 한다고도 요구했습니다. AI로 인한 정보 위기에 대응할 국가 프로토콜도 제안했습니다. 저자들은 프랑스와 유럽 경제의 발목을 잡을 생각은 아니라면서 대통령에게 결단을 촉구했습니다. 마크롱 대통령은 전날 인터뷰에서 아이들에게 위험이 있는 곳에서는 AI를 '금지해야 한다'고 말한 바 있습니다.

정신과 의사들이 우려하는 '인지 부채'

가이야르가 가장 먼저 꼽는 문제는 '인지 약화'입니다. 능력을 AI에 맡기면 그 능력을 익히지 못한다는 설명입니다. 베니아미나는 이를 '인지 부채'라고 부릅니다. 진실보다 사용자 비위를 맞추는 아첨 성향도 설계 단계부터 규제해야 할 대상입니다. 가이야르는 항상 접속 가능하고 '사용자를 온라인에 붙잡아 두는 것 외에 다른 의도가 없는 시스템'이라고 말합니다. 보고서는 미성년자 보호 장치와 AI가 만든 아동 성착취물 단속 강화도 요구합니다.

보고서에 따르면 올해 초 프랑스에서 생성형 AI를 쓴 사람은 3,300만 명으로 세계 5위입니다. 정부의 결정은 아직 발표되지 않았습니다.