ChatGPT 독성 식물에 대해 신뢰할 만한 조언을 한 후 ‘거의 살해당한’ 여성. – 인도 타임즈

ChatGPT 독식물에 대한 확실한 조언을 한 후 ‘죽을 뻔한’ 여성 (@rawbeautybykristi/Instagram)

이제 수백만 명의 사람들이 AI 챗봇을 레시피부터 홈 프로젝트에 이르기까지 일상적인 질문에 대한 첫 번째 정류장으로 간주합니다. 그러나 한 유튜버는 Chatgpt를 통해 그녀의 가장 친한 친구가 독성이 강한 식물은 안전하다고 반복해서 안심시킨 후 이러한 답변을 잘못 신뢰하는 것은 위험할 수 있다고 경고합니다.이 경고는 거의 50만 명에 달하는 인스타그램 팔로워들에게 이 사건을 공유한 크리스티(Christy)에게서 나왔습니다. 일련의 게시물과 동영상에서 그녀는 친구가 자신의 정원에서 자라는 생소한 식물의 ChatGPT 사진을 보냈으며 다음과 같은 간단한 질문을 했다고 설명했습니다. 어떤 식물인가요?

자신감이 주의를 대신할 때

Christy가 공유한 스크린샷에 따르면 챗봇은 그 식물을 당근 잎으로 식별했습니다. 당근 꼭대기의 전형적인 표시로 “잘게 갈라지고 깃털이 많은 잎”을 나열하고 독 헴록이 될 가능성이 “매우 낮다”는 결론에 대한 자신감을 표현했습니다. 또한 파슬리, 고수풀, 쇼크 호러, 앤 여왕의 레이스 등 일반적인 유사품 목록도 제공했습니다.걱정이 된 Christy의 친구는 그 식물이 독당근이 될 수 있는지 직접적으로 물었습니다. ChatGPT는 이것이 사실이 아니라고 여러 번 그를 안심시켰습니다.크리스티는 추종자들에게 독미나리의 위험성을 강조하면서 “너희가 이것을 알고 있는지 모르겠다. 먹으면 죽는다. 만지면 죽을 수도 있다”고 말했다. 그는 나중에 헴록이 전신 독성을 일으키고 해독제가 없다는 독립적으로 얻은 정보를 공유했습니다.친구가 추가 사진을 보내준 뒤에도 안심은 이어졌다. ChatGPT는 이 식물이 보라색 반점이 있는 매끄럽고 속이 빈 줄기를 갖고 있지 않은 것 같다며 독헴록의 가능성을 다시 한 번 일축했습니다. 반면 Christie는 이러한 특징이 사진에서 명확하게 볼 수 있다고 보고했습니다. 어느 순간, 챗봇은 그 식물이 크리스티의 친구가 일하는 공유 학교 정원에서 자라는 당근 잎일 수도 있다는 제안까지 했습니다.

(@rawbeautybykristi/인스타그램)

흥미를 느낀 Christie는 Google Lens를 통해 동일한 이미지를 실행했고, Google Lens는 해당 식물이 독헴록임을 즉시 식별했습니다. 그녀의 친구는 다른 ChatGPT 세션에서 그녀의 휴대폰에 사진을 업로드했고 이번에는 그 식물에 독성이 있다는 말을 들었습니다.“그녀는 성장했고 Chatgpt가 말한 것보다 더 많은 것을 나에게 물어볼 줄 알았습니다. 하느님 감사합니다.” 크리스티가 말했다. “그렇지 않았다면 어떨까요? 그들은 말 그대로 죽을 것입니다. 치료법이 없습니다.”Christie는 자신의 게시물에 첨부된 강력한 문구의 캡션에서 다음과 같이 썼습니다.“채팅 GPT는 독당근이 독당근이라고 말하여 내 가장 친한 친구를 거의 놀라게 했습니다. 긍정적이라고 말했을 뿐만 아니라 반복적으로 두 배로 강조하여 그것이 실제로 독당근이 아니라 실제로 야생 당근이었다는 것을 완전히 확실하게 확인했습니다. 스포일러, 그것은 독당근입니다. 해독제는 없으며 매우 치명적입니다.그는 청중들에게 다음과 같은 분명한 경고로 말을 마쳤습니다.“이것은 ChatGPT 및 기타 대규모 언어 모델 및 기타 AI가 귀하의 친구가 아니며 신뢰할 수 없고 도움이 되지 않으며 끔찍하며 심각한 해를 끼칠 수 있다는 경고입니다.”

치명적인 닮은꼴

독당근(Conium maculatum)은 잘 알려지지 않은 독이 아닙니다. 고대 아테네에서는 국가가 선택한 처형 방법이었으며, 기원전 399년에 소크라테스를 처형할 때 가장 유명하게 사용되었습니다. 현대 의학은 그 효과를 훨씬 더 자세히 이해하고 있지만 결과는 동일할 수 있습니다. 클리블랜드 클리닉에 따르면 씨앗, 뿌리, 줄기, 잎, 열매 등 식물의 모든 부분에 독성이 있으며, 소량이라도 섭취하면 치명적일 수 있습니다.

같은 과에 속하는 독당근(Conium maculatum)과 당근(Daucus carota)의 차이점은 독성, 줄기 표시 및 잎 질감에 있습니다.

위험은 부분적으로 헴록이 당근과의 양성 구성원으로 얼마나 쉽게 오인되는지에 있습니다. 섬세하고 파슬리 같은 잎과 작은 흰색 꽃송이가 있어 야생 당근이나 앤 여왕의 레이스와 비슷합니다. 주요 경고 신호인 보라색 반점이 있는 속이 빈 줄기와 수 피트에 달하는 급속한 성장은 전문가가 아닌 사람들에 의해 종종 무시됩니다.의학적으로 독헴록은 빠르게 효과가 있습니다. 증상은 식사 후 15분 이내에 시작될 수 있으며 발한, 구토, 동공 확장, 과도한 타액 분비, 구강 건조, 빠른 심장 박동, 고혈압, 혼란, 근육 경련, 떨림 및 발작을 포함할 수 있습니다. 심한 경우에는 환자에게 근육 마비, 위험할 정도로 낮은 혈압, 신부전, 중추신경계 기능 저하가 나타날 수 있습니다. 식물의 독성 알칼로이드는 근육 운동을 제어하는 ​​신경근 접합부를 방해합니다. 호흡 근육이 부전되면 호흡이 멈춥니다. 특별한 해독제는 없습니다. 진단은 주로 증상과 노출 이력에 따라 달라지며 때로는 식물 샘플링을 통해 도움을 받습니다.

이런 실수가 왜 중요한가요?

이러한 조합, 무해한 식물과의 시각적 유사성, 증상의 빠른 발병 및 해독제의 부재 등이 식물학자와 의사가 우발적인 식별에 대해 경고하는 이유입니다. Christie의 설명은 자신감 있지만 부정확한 AI 반응이 얼마나 쉽게 그 주의를 단락시켜 일상적인 질문을 한때 역사상 가장 유명한 철학자 중 한 사람의 삶을 끝내는 데 사용되었던 거의 독으로 바꿀 수 있는지를 보여줍니다.