AI 교육을 일시 중지해 달라는 기술자들의 공개 서한 · EMSNow

게시자: 제니퍼 읽기 | 2023년 3월 30일 | 인공지능, 협회, 뉴스, 인물, 스마트팩토리, 소프트웨어

편지 내용:

광범위한 연구에서 밝혀지고[1] 최고의 AI 연구소에서 인정된 바와 같이, 인간과 경쟁할 수 있는 지능을 갖춘 AI 시스템은 사회와 인류에 심각한 위험을 초래할 수 있습니다.[2] 널리 승인된 Asilomar AI 원칙에 명시된 바와 같이, 고급 AI는 지구상 생명 역사의 중대한 변화를 나타낼 수 있으며 적절한 주의와 자원을 사용하여 계획하고 관리해야 합니다. 불행하게도 이러한 수준의 계획 및 관리는 이루어지지 않고 있습니다. 최근 몇 달 동안 AI 연구소는 그 누구도, 심지어 제작자도 이해할 수 없는 더욱 강력한 디지털 마인드를 개발하고 배포하기 위해 통제 불능의 경쟁에 갇혔습니다. 예측하거나 안정적으로 제어할 수 있습니다.

현대 AI 시스템은 이제 일반적인 작업에서 인간과 경쟁하게 되었습니다.[3] 우리는 스스로에게 질문해야 합니다. 기계가 우리의 정보 채널을 선전과 허위로 가득 채우도록 해야 할까요? 만족스러운 업무를 포함해 모든 업무를 자동화해야 할까요? 결국 우리보다 수적으로 더 많고, 더 똑똑하고, 쓸모없고, 우리를 대체할 수 있는 비인간적 정신을 개발해야 할까요? 우리는 문명에 대한 통제력을 상실할 위험을 감수해야 합니까? 그러한 결정은 선출되지 않은 기술 리더에게 위임되어서는 안 됩니다.강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발되어야 합니다. 이러한 신뢰는 충분히 정당화되어야 하며 시스템의 잠재적 영향의 크기에 따라 증가해야 합니다. 일반 인공 지능에 관한 OpenAI의 최근 성명서는 "어느 시점에서는 미래 시스템 훈련을 시작하기 전에 독립적인 검토를 받는 것이 중요할 수 있으며, 새로운 시스템을 만드는 데 사용되는 컴퓨팅의 증가 속도를 제한하는 데 동의하는 가장 발전된 노력을 기울이는 것이 중요할 수 있습니다"라고 말합니다. 모델." 우리는 동의한다. 그 시점은 바로 지금이다.

그러므로,우리는 모든 AI 연구소에 GPT-4보다 더 강력한 AI 시스템 훈련을 최소 6개월 동안 즉시 중단할 것을 요청합니다. . 이 일시 중지는 공개적이고 검증 가능해야 하며 모든 주요 행위자를 포함해야 합니다. 그러한 일시 중지가 신속하게 실행될 수 없다면 정부가 개입하여 유예 조치를 취해야 합니다.

AI 연구소와 독립 전문가는 이 일시 중지를 활용하여 독립적인 외부 전문가가 엄격하게 감사하고 감독하는 고급 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜을 공동으로 개발하고 구현해야 합니다. 이러한 프로토콜은 이를 준수하는 시스템이 의심의 여지 없이 안전하다는 것을 보장해야 합니다.[4] 이는 일반적인 AI 개발의 중단을 의미하는 것이 아니라 단지 위험한 경쟁에서 새로운 기능을 갖춘 예측할 수 없는 더 큰 블랙박스 모델로 한 발 물러나는 것입니다.

AI 연구 및 개발은 오늘날의 강력한 최첨단 시스템을 더욱 정확하고, 안전하고, 해석 가능하고, 투명하고, 강력하고, 정렬되고, 신뢰할 수 있고, 충성스럽게 만드는 데 다시 초점을 맞춰야 합니다.

이와 동시에 AI 개발자는 정책 입안자와 협력하여 강력한 AI 거버넌스 시스템 개발을 획기적으로 가속화해야 합니다. 여기에는 최소한 다음이 포함되어야 합니다. AI 전담의 새롭고 유능한 규제 당국; 고성능 AI 시스템과 대규모 계산 능력 풀에 대한 감독 및 추적; 실제와 합성을 구별하고 모델 유출을 추적하는 데 도움이 되는 출처 및 워터마킹 시스템 강력한 감사 및 인증 생태계; AI로 인한 피해에 대한 책임; 기술적 AI 안전 연구를 위한 강력한 공공 자금 지원; AI가 야기할 극적인 경제적, 정치적 혼란(특히 민주주의에 대한)에 대처하기 위한 풍부한 자원을 갖춘 기관입니다.

인류는 AI를 통해 풍요로운 미래를 누릴 수 있습니다. 강력한 AI 시스템 구축에 성공한 우리는 이제 보상을 받고, 모두에게 분명한 이익이 되도록 이러한 시스템을 설계하고, 사회에 적응할 수 있는 기회를 제공하는 "AI 여름"을 즐길 수 있습니다. 사회는 잠재적으로 사회에 치명적인 영향을 미칠 수 있는 다른 기술을 중단했습니다.[5] 여기서는 그렇게 할 수 있습니다. 무작정 가을에 뛰어들지 말고, 긴 AI 여름을 즐겨보자.