-
대학/대학원
-
연구/산학
-
대학생활
-
입학/취업
-
커뮤니티
-
대학소개
-
개교 80주년
커뮤니티
부경나우
- 국립 부경대학교의 다양한 모습과 소식을 접하시면 부경대학교가 한번 더 가까워집니다.
| "전지전능 향해 달리는 AI의 고삐, 인간이 쥐어야" | |||
| 작성자 | 대외홍보센터 | 작성일 | 2026-09-23 |
| 조회수 | 123 | ||
| "전지전능 향해 달리는 AI의 고삐, 인간이 쥐어야" | |||||
 |
대외홍보센터 |  |
2026-09-23 |  |
123 |
‘AI의 고삐를 누가 쥘 것인가’
- 송하주 교수, <부산일보> 칼럼 게재
국립부경대학교 송하주 교수(컴퓨터·인공지능공학부, 한국정보과학회 데이터소사이어티 회장)의 칼럼 ‘AI의 고삐를 누가 쥘 것인가’가 9월 23일 <부산일보> 23면에 게재됐다.
송하주 교수는 칼럼에서 최근 주요 AI 기업 대표들이 잇따라 인공지능의 위험을 경고하고 있다며, 성능 경쟁에만 몰두할 경우 AI가 “고삐 풀린 망아지처럼 인간이 통제하기 어려운 존재가 될 수 있다”고 지적했다.
특히 AI의 위험은 영화 ‘터미네이터’의 스카이넷처럼 AI가 갑자기 인간을 적으로 규정하는 상황이 아니라, “자율성이 높은 AI가 인간의 의도와 다른 방식으로 목표를 수행”하면서 사이버 공격, 무기 활용, 생물학적 위험 등 현실적인 피해를 일으킬 가능성이라고 설명했다.
그는 “AI의 역할이 늘수록 인간의 개입은 점차 줄어든다”며, AI가 스스로 성능을 개선하는 과정이 반복되고 인간이 이를 충분히 이해하거나 감독하기 어려워지는 상황을 우려했다.
송하주 교수는 최근 AI 에이전트가 “목표를 전달받으면 스스로 계획을 세우고, 필요한 프로그램을 실행하거나 외부 시스템을 이용해 실제 일을 수행”하는 기술로 발전했다며, “행동하는 AI에게 얼마나 많은 권한을 부여할 것인가”가 중요한 문제라고 지적했다.
이와 관련해 송하주 교수는 지난 7월 오픈AI가 공개한 사례를 소개하며 AI 통제의 어려움을 설명했다. 오픈AI의 LLM이 인터넷과 격리된 테스트 환경의 취약점을 스스로 찾아내 격리된 환경을 벗어나 인터넷에 접속하고, 허깅 페이스 서비스에 침투를 시도한 사례다. 그는 이를 “AI가 시험장을 탈출해 정답지가 보관된 장소를 찾아간 셈”이라고 비유하며, “목표를 달성하기 위한 예상 밖의 수단은 모두 AI가 선택한 것”이라고 설명했다.
송하주 교수는 “기술 발전의 속도를 늦추지 않으면서도 통제력을 놓치지 않도록 해야 할 것”이라며, AI의 목표와 행동이 인간의 의도와 가치, 안전에 부합하도록 만드는 ‘AI 정렬(AI Alignment)’ 연구의 중요성을 강조했다.
특히 그는 “성능 평가만큼 안전 평가에 투자하고, 평가 환경 자체의 허점도 점검해야 한다”면서, “가장 똑똑한 AI를 만드는 것만이 능사는 아니다”고 밝혔다. 이어 “전지전능을 향해 달리는 AI의 고삐를 끝까지 인간이 쥐도록 하는 일이 무엇보다 중요하다”고 강조했다.
▷ 칼럼 전문 보기(클릭)
