불과 몇 년 전만 해도 어떤 프로세스에서든 하루에 백만 개의 데이터 포인트를 수집한다는 아이디어는 대부분의 조직에서 이해할 수 없었습니다. 이제 강력한 수집 방법과 저렴한 스토리지 옵션의 출현으로 우리는 데이터가 넘쳐나고 있습니다.

문제는 이러한 홍수에서 인사이트를 걸러내고 이를 프로세스와 조직을 변화시키는 행동으로 전환하는 것입니다.

바로 이 부분에서 AI가 도움을 줄 수 있습니다. 업종에 관계없이 데이터 패턴을 분석하고 식별하는 AI의 전례 없는 능력은 영업 문의의 생산성을 높이고, 공장의 폐기물을 줄이고, 고위험 산업에서 생명을 구하는 등 조직의 운영 방식을 근본적으로 변화시킬 것을 약속합니다.

그러나 진정한 AI 트랜스포메이션을 이루기 위해서는 기술을 이해하는 것보다 인간을 더 많이 이해해야 합니다.

인지 과학자로서 우리는 AI 트랜스포메이션이 데이터 수집, 인사이트 찾기, 조치 취하기의 세 단계로 이루어진다는 것을 알게 되었습니다. 후자의 두 단계는 인간의 행동을 이끄는 요인, 즉 두려움, 동기, 편향, 인지 능력 제한 및 사람들이 특정 방식으로 행동하도록 하는 기타 뇌 과정에 대한 깊은 이해를 필요로 합니다.

AI는 데이터에서 패턴을 식별할 수 있지만, 패턴에서 인사이트를 도출하고 효과적인 조직 변화 이니셔티브를 설계하려면 인간을 이해하는 것이 필수적입니다.

AI를 사용하여 생명을 구합니다

실제 사례를 통해 AI 트랜스포메이션의 3단계 프로세스를 살펴보겠습니다. 스탠포드 대학의 외과 교수인 테오도르 그랜트차로프(Teodor Grantcharov) 박사는 AI를 수술실의 수술 오류를 분석하고 줄이기 위한 도구로 사용하고자 했습니다.

추정치는 매우 다양하지만, 연구에 따르면 미국에서 매년 44,000명에서 250,000명의 환자가 의료 오류로 사망합니다. 이러한 사망의 약 4분의 1은 수술실(OR)에서 예방가능한 실수로 인해 발생한다고 연구는 추정했습니다.

20년 동안 Grantcharov는 수술 과정에서 일어나는 모든 일을 분석하는 "수술실 블랙박스"를 개발해 왔습니다. 그는 비행기에 사용되는 비행 데이터 또는 "블랙 박스" 레코더에서 영감을 얻었습니다. 1957년 미국 민간항공위원회(U.S. Civil Aeronautics Board)가 모든 여객기에 비행 데이터 레코더를 의무화한 이래로 이 기기는 사고와 재난의 원인을 밝히는 데 도움이 되었습니다. 블랙박스 레코더는 조종사 훈련, 항공사 장비 및 규제 표준의 변화를 통해 수많은 생명을 구했습니다.

OR 블랙박스는 예방가능한 오류를 식별하고 완화하기 위한 조치를 취하는 유사한 목적을 염두에 두고 개발되었습니다. 최근 몇 년 동안 AI의 발전으로 Grantcharov의 팀은 이전의 데이터 분석 병목 현상을 극복할 수 있었습니다. 그들이 얻은 통찰력은 개인 및 팀 성과를 크게 향상시켰고 표준 운영 절차에 대한 준수율을 높였습니다. 이러한 변화는 블랙박스를 사용한 수술실의 이환율, 사망률 및 비용을 줄였다고 Grantcharov는 말합니다.

1단계: 데이터 수집

AI 트랜스포메이션의 첫 번째 단계는 오늘날 가장 쉬운 단계인 데이터 수집입니다. 지금까지 Grantcharov는 미국 전역의 약 20개 수술실에 플랫폼을 배치했습니다. 다양한 센서를 통해 OR 블랙박스는 사이트당 하루에 최대 1백만개의 데이터 포인트를 캡처했습니다. 여기에는 수술 절차의 시청각 데이터, 전자 건강 기록 및 수술 장치의 입력이 포함되었습니다. 이 데이터에는 스트레스 수준을 반영하는 심박수 변동성과 무선 EEG로 측정한 뇌 활동과 같은 수술 팀의 생체 인식 판독값도 포함되었습니다.

데이터에는 풍부한 정보가 포함되어 있었지만 Grantcharov에 따르면 "임상의가 행동을 바꾸는 데 사용할 수 있는 정보로 전환할 수 없다면 데이터는 무용지물"입니다.

2단계: 인사이트 찾기

데이터에서 패턴을 식별하는 것은 AI가 특히 유용한 부분입니다. "인간의 뇌가 이러한 모든 데이터 포인트를 지속적으로 모니터링하고 패턴과 숨겨진 연관성을 찾는 것은 불가능합니다"라고 Grantcharov는 지적합니다. "바로 이 부분에서 최신 AI 방법론을 통해 데이터를 인사이트를 통찰력으로 전환하여 행동으로 전환할 수 있습니다."

하지만 여기서 인간을 이해하는 것이 중요합니다. AI는 수술실 사고를 특정 이벤트와 연관시킬 수 있지만, 작동하는 가설이 없으면 모든 것이 소음에 불과합니다. 예를 들어, Grantcharov의 팀은 스트레스가 인지 처리 및 의사 결정에 영향을 미쳐 외과 의사의 성과에 영향을 미칠 수 있다는 가설을 세웠습니다. 그래서 그들은 외과의로부터 생리학적 데이터를 수집하도록 실험을 설계했고, AI는 이러한 데이터를 수술실 사고와 연관시킬 수 있었습니다. 그 결과, 스트레스에 시달리는 외과 의사들은 실수를 저지를 확률이 66% 더 높았습니다.

Grantcharov는 또한 문이 열리거나, 전화가 울리거나, 누군가가 어젯밤 축구 경기에 대해 이야기하는 것과 같은 사건, 즉 산만함이 가장 치명적인 오류의 근본 원인이라는 것을 알게 되었습니다. 이러한 통찰을 얻기 위해서는 뇌의 유한한 인지 능력에 대한 이해가 필요했습니다.

다른 인사이트를 도출하려면 팀 역학에 대한 이해가 필요했습니다. 연구진은 의사소통이 제대로 이루어지지 않고 심리적 안정감(필요할 때 목소리를 내고 우려를 제기할 수 있다는 믿음)이 부족한 팀은 외과의의 기술 수준에 관계없이 더 나쁜 결과를 낳는 것을 관찰했습니다. "가장 위험한 수술실 중 하나는 아무도 목소리를 높이거나 의사 소통하지 않는 조용한 수술실입니다"라고 Grantcharov는 말합니다.

외과 의사의 기술이 성공을 결정하는 가장 중요한 요인이라고 가정할 수 있지만, 수술 팀의 협업 방식이나 우려 사항을 표명하는 것이 안전하다고 느꼈는지 여부와 같은 수술 팀의 비기술적 속성이 환자 결과에 가장 큰 영향을 미쳤습니다. "모든 것은 문화로 귀결됩니다"라고 Grantcharov는 말합니다.

3단계: 조치 취하기

AI가 수술실 오류의 가장 큰 원인을 밝히는 데 도움이 되면 병원과 수술 센터는 적어도 이론적으로는 실수를 방지하기 위한 새로운 절차를 도입하기 시작할 수 있습니다. 하지만 먼저 행동 변화가 어떻게 일어나는지 이해해야 했습니다. 전체 조직의 문화를 성공적으로 바꾸려면 우선 순위, 습관 및 시스템을 확립해야 합니다.

우선 순위는 조직에 가장 중요하다고 간주되는 작업 또는 활동이며, 모든 사람이 시간과 주의를 집중해야 할 위치를 알 수 있도록 이러한 우선 순위를 전달하는 것이 중요합니다. 이 경우 예방 가능한 수술실 실수를 피하여 환자 결과를 개선하는 것이 우선 순위입니다.

습관은 의식적인 생각이 거의 없이 자동으로 수행되는 행동입니다. 예를 들어, 침묵을 지키는 대신 걱정을 털어놓는 것은 훈련과 연습을 통해 습관이 될 수 있습니다.

마지막으로, 시스템은 원하는 행동을 가장 쉽게 수행할 수 있도록 시행된 절차 또는 원칙입니다. 예를 들어, 주의를 산만하게 하는 요소를 줄이고 인지 능력을 보존하기 위해 병원은 수술 절차의 중요한 단계에서 관련 없는 대화를 제한하는 새로운 규칙을 제정할 수 있습니다.

우선순위, 습관 및 시스템과 함께 AI 트랜스포메이션은 조직의 모든 사람이 성장 마인드셋, 즉 실패가 자신의 지위나 지위에 대한 위협이 아니라 더 나아질 수 있는 기회라는 믿음을 수용해야 합니다. Grantcharov는 처음에 많은 수술 팀이 수술실 블랙박스를 경계했고, 이로 인해 수술팀이 좋지 않게 보이거나 소송에 취약해질 수 있다고 걱정했다고 회상합니다. 하지만 점차 그들의 태도가 바뀌었습니다.

"성과에 대한 객관적인 측정 없이는 개선할 수 없다는 것을 깨닫게 되면 성장 마인드셋과 지속적인 개선의 세계가 실제로 열립니다"라고 그는 말합니다. 이러한 전환을 환영한 병원들은 품질과 안전성뿐만 아니라 효율성과 생산성 면에서도 엄청난 이득을 보았다고 그는 주장합니다.

수술실 너머

모든 산업이 의료 산업만큼 인간의 생명이 위태로운 것은 아닙니다. 그러나 어떤 분야에서든 AI는 데이터를 분석하고 특정 프로세스 개선에서 전체 문화 변화에 이르기까지 행동을 이끄는 귀중한 통찰력으로 이어질 수 있습니다. 그러나 AI에게 데이터 세트를 가리키는 것만으로는 테스트할 가치가 있는 가설 없이는 거의 드러나지 않습니다.

예를 들어, 회의 환경에서 AI 기반 장치는 오디오 및 시각적 데이터(익명화되고 윤리적인 방식으로)를 수집하고, 인간의 통찰력의 도움으로 명확하지 않을 수 있는 패턴을 감지할 수 있습니다. 과도한 불안이나 스트레스의 징후를 보이는 사람이 있습니까? 사람들이 화상 통화에서 자주 아래를 내려다보고 있으며, 기기로 인해 주의가 산만해질 수 있습니까?

이러한 방식으로 AI는 리더가 생산적인 회의를 방해하는 장애물을 먼저 인식한 다음 심리적 안정감을 높이거나 방해 요소를 줄이는 등 장애물을 해결하는 방법을 찾는 데 도움이 될 수 있습니다.

수술실에서든 회의실에서든 AI는 조직의 잠재력을 발휘하는 데 도움이 될 수 있습니다.

그러나 아이러니하게도 기술이 우리 삶에서 중심적인 역할을 할수록 인간이 세상과 상호 작용하고 처리하는 방식을 더 많이 이해해야 합니다.

이상의 기사는 2024년 8월 11일 VentureBeat에 게재된 “From data to insight to action: The very human challenges of AI transformation”제목의 기사 내용을 편집하여 작성하였습니다.

* 원문정보 출처 : From data to insight to action: The very human challenges of AI transformation | VentureBeat