애플, 가짜 헤드라인 생성 후 AI 기반 뉴스 알림 철회

Apple is pulling its AI-generated notifications for news after generating fake headlines

2025년 1월 16일 목요일

 

애플은 사용자에게 잘못된 헤드라인을 반복적으로 보낸 후, 뉴스 알림을 요약하는 새로운 인공지능(AI) 기능을 일시적으로 비활성화하며 뉴스 조직과 언론 자유 단체들의 반발을 샀습니다.

아이폰 제조업체가 자주 사용하는 애플 인텔리전스 기능에서 이번에 발생한 문제는, 이 기술이 일반 푸시 알림처럼 보이는 뉴스 헤드라인을 잘못 요약하거나, 심지어 전혀 사실이 아닌 내용을 생성했기 때문입니다.

목요일, 애플은 뉴스 및 엔터테인먼트 헤드라인에 대한 AI 기능을 비활성화한 베타 소프트웨어 업데이트를 개발자에게 배포했고, 향후 AI 기능을 개선하는 동안 이를 모든 사용자에게 제공할 계획입니다. 애플은 앞으로 업데이트에서 이 기능을 다시 활성화할 예정입니다.

이번 업데이트의 일환으로, 사용자가 선택할 수 있는 애플 인텔리전스 요약은 해당 정보가 AI에 의해 생성되었음을 명확하게 표시할 것이며, 때로는 부정확한 결과를 초래할 수 있음을 경고한다고 밝혔습니다.

지난달, BBC는 유나이티드헬스케어 CEO의 죽음에 관한 허위 헤드라인을 포함한 AI 요약이 발송된 후 애플에 이 기능의 폐기를 촉구했습니다. 또 다른 경우에는 베냐민 네타냐후 이스라엘 총리가 체포되었다는 잘못된 정보가 뉴욕타임스 기사 세 편의 푸시 알림으로 요약되기도 했습니다.

BBC 대변인은 12월 CNN에 "뉴스의 정확성은 신뢰를 유지하는 데 필수적이기 때문에 애플은 이러한 문제를 시급히 해결해야 한다"고 말했습니다. "애플의 AI 요약은 원래 BBC 콘텐츠와 일치하지 않으며, 경우에 따라 완전히 모순되기도 합니다."

수요일, AI 기반 기능은 워싱턴 포스트의 알림을 다시 한 번 잘못 요약하여 "피트 헤게스 해고, 트럼프 관세가 인플레이션에 영향을 미치고 팸 본다이와 마르코 루비오가 확인했다"고 잘못 표기했습니다. 그러나 이 내용은 전혀 사실이 아닙니다.

이 신문의 기술 칼럼니스트 제프리 파울러는 "애플 인텔리전스가 너무 부정확해서, 오늘날 모든 사실을 잘못 이해하고 워싱턴 포스트 뉴스 알림 요약본을 AI에 전달한 것이 주된 불만입니다."라고 썼습니다. "애플이 이 AI에 조금 더 능숙해질 때까지 뉴스 앱에서 요약본을 끄지 않는 것은 매우 무책임한 일입니다."

언론 자유 단체들은 이 요약이 신뢰할 수 있는 정보를 찾고 있는 소비자들에게 미칠 위험성을 강조했습니다. 국경없는 기자회는 이를 "시사에 대한 신뢰할 수 있는 정보에 대한 대중의 권리에 대한 위협"이라고 표현했으며, 세계 최대 언론인 노조 중 하나인 전국언론인연합은 "대중이 자신이 받는 뉴스의 정확성에 대해 의문을 제기하는 상황에 처해서는 안 된다"고 강조했습니다. 두 단체 모두 AI 기반 요약을 삭제할 것을 촉구했습니다.

애플의 AI 문제는 개발자들이 정보를 조작하는 기술과 싸워야 했던 첫 번째 사례가 아니며, ChatGPT와 같은 인기 모델도 종종 '환각(hallucination)'이라 불리는 잘못된 정보를 생성하는 것으로 알려져 있습니다.

백악관의 AI 권리장전 청사진 작성을 도왔던 브라운 대학교의 수레쉬 벤카타수브라마니안 교수는 이전에 CNN과의 인터뷰에서 AI 도구인 대형 언어 모델이 사용자의 입력에 대한 "그럴듯한 답변"을 생성하도록 훈련되었다고 설명했습니다.

벤카타수브라마니안 교수는 "따라서 그럴듯한 답변이 사실이든, 정확하든, 아니면 완전히 지어낸 것이든 간에, 그 답변이 합리적으로 들리는 결과를 낳습니다."라고 말했습니다. "그렇기 때문에 그 안에는 진실에 대한 지식이 없습니다."

ChatGPT가 출시된 지 2년이 지난 지금도 인공지능의 '환각' 문제는 여전히 만연해 있으며, 2024년 7월 코넬대학교, 워싱턴대학교, 워털루대학교의 연구에 따르면 최고의 인공지능 모델은 여전히 정보를 발명하는 경향이 있어 완전히 신뢰할 수 없는 것으로 나타났습니다.

---

 

이 기사를 읽고 우려되는 문제는 인공지능(AI)의 정보 처리 및 전달의 신뢰성 문제입니다. 특히 뉴스 요약 및 알림에 AI를 활용하는 경우, 부정확하거나 왜곡된 정보가 대중에게 전달될 위험이 크다는 점에서 심각한 문제를 초래할 수 있습니다. 이러한 문제는 경제뿐만 아니라 사회 전반에 걸쳐 중요한 영향을 미칠 수 있습니다.

먼저, 우려되는 문제는 다음과 같습니다. 
정보의 정확성 및 신뢰성 부족할 수 있습니다. AI가 생성하는 뉴스 요약은 종종 사실을 왜곡하거나 부정확한 정보를 전달합니다. 이는 사용자들이 잘못된 정보를 기반으로 의사 결정을 내리게 할 수 있습니다.

이로 인한 시장과 경제에 미치는 영향은 잘못된 정보로 소비자 행동, 기업의 결정, 주식 시장 등 여러 경제적 요소에 큰 영향을 미칠 수 있습니다. 예를 들어, 잘못된 경제 뉴스나 기업의 실적에 대한 오류가 대중에게 퍼지면, 소비자 신뢰도와 투자자 신뢰도가 급격히 떨어질 수 있습니다. 이는 주식 시장의 불안정성을 초래하거나 소비자들이 불필요한 구매를 하거나 반대로 소비를 위축시킬 수 있습니다.

또한 언론의 신뢰도 하락할 수 있습니다. AI 기반 요약이 신뢰할 수 없는 정보를 생성하면, 언론에 대한 신뢰도가 낮아질 수 있습니다. 이는 결국 언론 소비자들이 정보를 무분별하게 받아들이게 만들고, 가짜 뉴스나 허위 정보가 확산될 위험을 높입니다.

두 번째로 경제적 영향입니다. 투자 시장의 불안정성을 초래할 수 있습니다. 주식 시장에서는 뉴스가 중요한 역할을 합니다. 잘못된 경제 뉴스나 기업 뉴스가 주식 가격에 영향을 미친다면, 이는 투자자들에게 잘못된 투자 결정을 유도할 수 있습니다. 예를 들어, 기업 인수합병 소식이 왜곡되면, 투자자들은 잘못된 정보를 바탕으로 주식을 사고팔게 되어 시장에 불필요한 변동성을 초래할 수 있습니다.

소비자 행동에 다음과 같은 영향을 미칠 수 있습니다. AI가 잘못된 소비자 행동을 유도할 수 있습니다. 예를 들어, "인플레이션이 심화되고 있다"는 잘못된 경제 뉴스가 확산되면, 소비자들은 경제 위기를 예상하고 불필요한 소비를 자제하거나, 반대로 공황 구매를 하게 될 수 있습니다. 이러한 행동은 경제 전반의 수요와 공급에 영향을 미칩니다.

이런 문제를 해결해 보도록 하겠습니다. AI 기반 뉴스 알림 철회는 임시적인 해결책일 수 있으나, 장기적으로 경제에 미치는 영향과 신뢰성을 고려했을 때 더 긍정적이고 확실한 해결책이 필요합니다. 여기에는 여러 가지 방향이 있을 수 있습니다.

첫째, AI의 정확도 향상 및 지속적인 모니터링을 할 수 있습니다. AI 기술이 제공하는 뉴스 요약과 알림의 정확도를 높이기 위해, AI 모델의 학습 데이터와 알고리즘의 개선이 필요합니다. 이를 위해 언론 기관, 기술 기업, 학계 등이 협력하여 정확한 데이터셋을 확보하고, AI 모델의 평가와 검증 절차를 강화해야 합니다. 예를 들어, AI 모델이 생성하는 뉴스 요약에 대해 사실 확인(Fact-checking)을 자동으로 수행하는 시스템을 도입하는 것이 좋습니다.

둘째, AI의 투명성 및 사용자 교육 강화합니다. AI 기반 뉴스 요약에 대해 명확한 설명과 투명성을 제공해야 합니다. 사용자가 이 요약이 AI에 의해 생성된 것임을 쉽게 인식하고, 이를 통해 정보의 신뢰성을 스스로 판단할 수 있도록 해야 합니다. 또한, 사용자들에게 AI에 대한 교육을 제공하여, 기술의 한계와 잠재적인 문제점을 이해하도록 돕는 것이 중요합니다. 이는 소비자들이 잘못된 정보에 휘둘리지 않도록 하는 데 큰 도움이 될 수 있습니다.

셋째, AI와 사람의 협력 시스템 구축합니다. 완전히 AI에 의존하는 방식보다는, AI와 인간의 협력 시스템을 구축하는 것이 효과적일 수 있습니다. 예를 들어, AI가 뉴스 요약을 생성한 후 전문적인 기자나 편집자가 이를 검토하고 수정하는 절차를 마련하면, AI의 오류를 최소화하고 신뢰성 높은 정보를 제공할 수 있습니다. 이러한 시스템은 AI의 속도와 효율성을 살리면서도 인간의 정확성을 더할 수 있습니다.

넷째, 법적 및 윤리적 규제 도입합니다. AI를 활용한 뉴스 요약 및 알림 시스템에 대한 법적 및 윤리적 규제를 마련하는 것이 필요합니다. 이를 통해 AI 기술이 잘못된 정보를 전파하거나 경제에 악영향을 미칠 가능성을 줄일 수 있습니다. 예를 들어, AI가 생성한 정보에 대해 법적 책임을 명확히 하고, 허위 정보 유포에 대한 제재를 강화하는 방향으로 규제를 발전시킬 수 있습니다.

AI 기반 뉴스 요약과 알림의 신뢰성 문제는 경제에 중대한 영향을 미칠 수 있는 중요한 문제입니다. 이를 해결하기 위해서는 AI 모델의 정확도 개선, 투명성 및 사용자 교육 강화, AI와 인간의 협력 등의 종합적인 접근이 필요합니다. 또한, 법적 규제를 통해 악용을 방지하고, 경제 전반에 미치는 부정적 영향을 최소화할 수 있을 것입니다. AI 기술의 발전은 많은 이점을 제공할 수 있지만, 그 과정에서 발생할 수 있는 위험을 신중하게 관리해야만 합니다.