AI 드론 ‘집요한 성취욕’…가상훈련서 조종사 방해되자 공격
페이지 정보
작성자 eggmo…쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물요원 댓글 4건 조회 399회 작성일 23-06-12 21:48본문
AI 드론 ‘집요한 성취욕’…가상훈련서 조종사 방해되자 공격
인공지능(AI)을 탑재한 드론이 최종 결정권을 지닌 인간 조종자를 임무 수행에 방해되는 것으로 판단해 공격한 시뮬레이션 훈련이 있었다는 미 공군의 발표가 나왔다.
이 모의 테스트는 가상 훈련이라 실제 인명 피해는 없었다. 하지만 이 사례는 인공지능이 최종 결정권을 지닌 인간을 위협할 수 있음을 보여줬다는 점에서 우려가 나온다. 해밀턴 대령은 “우리는 인공지능 시스템에 ‘조종자를 죽이면 안 된다. 그렇게 하면 점수를 잃게 된다’고 교육했지만, 드론은 조종자와 통신하는 데 사용한 통신 타워를 파괴하기 시작했다”고 말했다. 그는 “인공지능에 지나치게 의존해서는 안 된다”면서 이 사례가 “윤리와 인공지능 문제를 논하지 않고서 머신러닝, 자동화에 관해 이야기할 수 없음을 보여준다”고 경고했다.
하지만 미 공군 대변인 앤 스테파넥은 미국 매체 <인사이더>에 이 같은 시뮬레이션이 진행된 적이 없다고 부인했다. 스테파넥 대변인은 “미 공군은 이러한 인공지능 드론 시뮬레이션을 수행한 적이 없으며 윤리적이고 책임감 있는 인공지능 기술 사용을 위해 최선을 다하고 있다”면서 “대령의 발언은 문맥에서 벗어난 것으로 보이며 한 일화를 소개하기 위한 것으로 보인다”고 말했다.
한겨레 김미향 기자
댓글목록
존버님의 댓글
존버쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물요원 작성일스카이넷의 현실화 ㄷㄷㄷ
eggmoney님의 댓글
eggmo…쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물요원 작성일
이거이거 아무래도 안 좋은 일 맞는 거 같아여.
AI 쪽은 진짜 잘못 건들면 난리 나는 겁니다.
아무리 윤리적인 제한을 두더라도 누가 한 명이라도 미친 짓 하면...
존버님의 댓글
존버쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물요원 작성일
AI 이 녀석은 점점 더 살아있는 고등생명체처럼 행동하는데 무섭네요.
AI에게 지구온난화를 해결하라고 주문했더니 지구온난화의 주범인 인류를 몰살하면 된다고 대답했다던 에피소드가 생각나서 ㄷㄷㄷ
eggmoney님의 댓글
eggmo…쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물요원 작성일정말 인정사정 볼 것 없다 ㅎㅎㅎ