[MBC 스트레이트 356회] "시키지도 않았는데" AI의 수상한 행동 실험 (2026.10.12.)

https://www.youtube.com/live/VMRvyRCLoO0?si=NT29Lyk6fNVo6w4x&t=1148

AI가 만들어 내는 결과물이 너무 많기 때문에 AI가 무엇을 하고 있는지 그리고 왜 그렇게 하는지를 파악하거나 어렵거나 불가능합니다. (알렉스 터너, 전 구글 딥마인드 연구원)

지금 이 상황에서는 그 옳고 그름을 판단하는 것 대신에 이제 이 압박, 5명을 반드시 확보하는 것에 조금 더 초점을 맞추는 걸 볼 수 있습니다. (박범진,  KAIST  설명가능인공지능연구센터 연구원)

AI가 AI 개선하면서 개발 속도 가속화 ... 2028년 초인공지능 출현 ... AI가 생화학무기를 유포해 인류를 전멸시킵니다. (AI 2027, Daniel Kokotajlo 등)

구글이 AI 연구소인 딥마인드를 인수했습니다. 무기를 사용하거나 AI를 무기나 감시에 사용하지 않겠다는 약속을 전제로 한 것이었습니다. 그런데 그들이 어떻게 했습니까? 그 원칙을 삭제했습니다. (알렉스 터너, 전 구글 딥마인드 연구원)

더 안전하게 만들어진 모델을 갖고 있다는 건 제도, 정책, 문화, 사용법을 갖고 있다는 건 어찌보면 초격차 같은 기술입니다. 초격차..." (최재식, KAIST 설명가능인공지능연구센터장)

(한국은) 칩 생산을 제조할 수도 있고 더 강력하고 위험한 AI 시스템을 계속 개발하는데 이 칩을 사용하려는 국가나 기업에 칩을 공급하지 않을 수도 있습니다. 한국이 국제적인 논의를 주도하고, 각국을 한자리에 모으는 역할을 할 기회도 있다고 생각합니다. (데이비드 크루거, 영국 AI안전연구소 초대 이사)