Хиймэл оюун ухаан - Эмч бидний нүдээр
Хиймэл оюун ухаан (AI) эрүүл мэндийн салбарт эрчимтэй нэвтэрч, ялангуяа "Их хэлний загвар" (Large Language Models - LLM) хэмээх технологи нь бидний өдөр тутмын эмнэлзүйн практик, сургалт, судалгааны ажилд чухал хэрэгсэл болон гарч ирж байна. Гэхдээ үүнийг аюулгүй, үр дүнтэй ашиглахын тулд бид энэ технологи хэрхэн яаж ажилладаг, бас ямар үед "алдаж" болдгийг зайлшгүй ойлгох хэрэгтэй байна. Энэхүү нийтлэлээрээ бид хиймэл оюун ухааны боломж болон хязгаарлагдмал талуудыг эмнэлзүйн бодит жишээн дээр тулгуурлан тайлбарлахыг зорилоо.ГОЛ АНХААРАХ ЗҮЙЛСХиймэл оюун ухааныг сургаж буй тэр их өгөгдөл дотор хүний буруутай үйл ажиллагаанаас үүдэлтэй өрөөсгөл мэдээллүүд (bias) байх боломжтой бөгөөд энэ нь AI-ийн хариултыг ч мөн өрөөсгөл болгох эрсдэлтэйг бид ойлгох хэрэгтэй. Энгийнээр хэлбэл, AI бол өгүүлбэрийг гүйцээхийн тулд дараагийн үг нь юу байх вэ гэдгийг магадлалын онолоор таамагладаг систем юм. Хэрэв сургалтын дата нь дутуу, хоёрдмол утгатай, эсвэл бидний асуусан асуулт түүний мэдлэгийн хүрээнээс гадуур байвал AI нь статистик тооцоололдоо тулгуурлан "тааж" эхэлдэг. Энэ үед маш үнэмшилтэй боловч огт худал мэдээллийг (үүнийг мэргэжлийн хэллэгээр "hallucinations" буюу “зохиох” гэдэг) зохиож ярих аюултай.Түүнчлэн, эмч та асуултаа хэрхэн томьёолж буй нь хариултад шууд нөлөөлдөг гэдгийг анхаараарай. Тиймээс эмнэлзүйн нэг асуудлыг хоёр өөр хэлбэрээр асууж, хариултууд нь хоорондоо таарч байгаа эсэхийг шалгаж байх нь зүйтэй. Их хэлний загварууд нь бидний шийдвэр гаргах хурдыг нэмэгдүүлж чадах ч аюулгүй, ёс зүйтэй эмчилгээ, үйлчилгээг явуулахын тулд эцсийн шийдвэрийг заавал "хүн" буюу эмнэлгийн мэргэжилтэн та өөрөө хянаж байх ёстой.Өнөөдөр бид ChatGPT, Gemini зэрэг автоматжуулсан туслахууд, эсвэл Open Evidence гэх мэт шийдвэр гаргахад дэмжлэг үзүүлэх хэрэгслүүдийг өдөр тутамдаа ашиглаж байна. Бид бүгдээрээ “програмист” байх албагүй ч, хэзээ AI-д итгэх, хэзээ эргэлзэх, хэзээ түүнийг хэрхэн яаж ашиглахаа мэддэг байхын тулд энэ технологийн мөн чанарыг бага ч болов гадарладаг байх шаардлагатай болжээ. Ингээд хамтдаа энэ технологи яаж хөгжсөн, яаж ажилладаг, мөн "эмнэлгээс бус уушгины хатгалгаа" (CAP)-ны жишээн дээр ямар эрсдэл дагуулж болохыг дэлгэрэнгүй харцгаая. ХИЙМЭЛ ОЮУН УХААНЫ ХӨГЖЛИЙН ТҮҮХХиймэл оюун ухаан нь энгийн дүрэмд суурилсан системээс эхлээд машин сургалт (machine learning), лавшруулсан сургалт (deep learning), улмаар өнөөгийн их хэлний загварууд хүртэл хөгжиж ирсэн. Энэ бүхэн эмнэлзүйн шийдвэр гаргахад, тухайлбал уушгины хатгалгаатай өвчтөнд антибиотик сонгоход хэрхэн тусалдгийг харьцуулж үзье.Дүрэмд суурилсан системүүд нь яг л нарийвчилсан алгоритм, схемтэй адил юм. Бид компьютерт "ХЭРЭВ өвчтөн 65-аас дээш настай БӨГӨӨД бөөрний асуудалтай бол, ИЙМ ҮЕД антибиотик X-ийг санал болго" гэсэн хатуу зааварчилгааг оруулж өгнө. Энэ системийн гол дутагдал нь уян хатан бус байдал юм. Шинэ удирдамж гарах, эсвэл дүрэмд заагаагүй шинж тэмдэг илрэх үед систем гацаж, дахин гараар програмчлах шаардлага гардаг байв.Дараа нь уламжлалт машин сургалтын системүүд гарч ирсэн. Энэ системд бид хатуу дүрэм тулгахын оронд олон мянган өвчтөний түүхийг өгч сургадаг. Жишээ нь, уушгины хатгалгаатай мянга мянган өвчтөний нас, шинж тэмдэг, хавсарсан эмгэг болон ямар антибиотик үр дүнтэй байсан тухай өгөгдлийг компьютерт оруулна. Компьютер эдгээр өгөгдөл дундаас өөрөө зүй тогтлыг олж, ямар хүчин зүйлс нийлээд эмчилгээний сайн үр дүнд хүргэж байгааг тооцоолдог. Гэхдээ энд нэг сул тал бий: хэрэв бид сургалтын өгөгдөлд ховор тохиолдох генетикийн эмгэгийг оруулахаа мартсан бол систем ирээдүйд түүнийг огт таньж, тооцоолж чадахгүй гэсэн үг.Харин одоогийн Лавшруулсан сургалтын (Deep Learning) системүүд бол хүний тархитай илүү төстэй ажилладаг хамгийн дэвшилтэт хэлбэр юм. Энэ нь өгөгдлийг заавал эмхэлж цэгцлэх шаардлагагүйгээр, шууд "түүхийгээр" нь боловсруулдаг. Уушгины хатгалгааны жишээн дээр бол энэ систем цээжний рентген зургыг (эсвэл дүгнэлтийг) харж, эмч сувилагчийн бичсэн тэмдэглэл, лабораторийн шинжилгээний хариу гээд бүх мэдээллийг нэгтгэн уншиж, аль нь чухал болохыг өөрөө шийднэ гэсэн үг. Лавшруулсан сургалтын давуу тал нь асар их мэдээлэл дундаас хүний нүдэнд өртөхөөргүй нарийн зүй тогтлыг олж харах ба гэхдээ яг яагаад ийм шийдвэр гаргаснаа тайлбарлаж чаддаггүй "хар хайрцаг" шиг байдаг нь эмнэлзүйн чухал шийдвэр гаргахад эрсдэлтэй байгаа юм.ОРОЛТ БА ГАРАЛТ (FEATURES IN, LABELS OUT)Энд бид "Features" (оролт буюу өгөгдлүүд) ба "Labels" (гаралт буюу үр дүн) гэсэн ойлголтыг тодруулах хэрэгтэй. "Features" гэдэг нь өвчтөний нас, хавсарсан өвчин, өвчний хүндрэлийн үе шат зэрэг антибиотик сонгоход туслах мэдээллүүд юм. Харин "Label" гэдэг нь бидний таамаглах гээд байгаа үр дүн буюу тухайн өвчтөнд хамгийн үр дүнтэй байсан эмчилгээ юм.Энд нэг чухал анхааруулга бий: AI-ийн сурч байгаа "үр дүн" нь бодит үнэн гэхээсээ илүүтэй тухайн үед эмч нар юу хийж байсныг тусгадаг. Хэрэв түүхэнд эмч нар нотолгоонд суурилсан хамгийн сайн эмийг биш, зүгээр л өөрсдийн зуршлаар "Антибиотик X"-ийг их бичдэг байсан бол AI систем "Антибиотик X бол хамгийн сайн эмчилгээ юм байна" гэж буруу сурч, түүнийгээ л дуурайх болно.МАШИН СУРГАЛТЫН ТӨРЛҮҮДБид "Зааварчилгаатай сургалт" (Supervised learning)-аар AI-д өвчтөний шинж тэмдэг болон зөв эмчилгээг хоёуланг нь үзүүлж сургадаг. Харин "Зааварчилгаагүй сургалт" (Unsupervised learning)-ын үед бид зөв хариуг хэлж өгдөггүй, систем өөрөө өгөгдөл дундаас бүлэг, зүй тогтлыг хайдаг. Энэ нь уушгины хатгалгааны бидний мэдэхгүй шинэ дэд бүлгүүдийг илрүүлэхэд тусалж магадгүй. Гурав дахь төрөл нь "Хүчжүүлсэн сургалт" (Reinforcement learning) бөгөөд энэ нь яг л шатар тоглож сурахтай адил туршилт, алдаа болон хариу үйлдэл дээр суралцдаг. Эмчилгээний явцад гарч буй өөрчлөлтөд тохируулан динамик зөвлөгөө өгөхөд энэ арга ирээдүйтэй юм.ХИЙМЭЛ ОЮУН УХААНЫ АНАТОМ БА ФИЗИОЛОГИОрчин үеийн их хэлний загварын (ChatGPT, Gemini гэх мэт) суурь нь "Трансформер" гэх бүтэц юм. Энэ бүтэц нь үгсийг дарааллаар нь бус, өгүүлбэр доторх үг хоорондын хамаарлыг ойлгоход чиглэдэг "Анхаарал хандуулах механизм" (Attention mechanism)-тай байдаг.Үүнийг энгийнээр тайлбарлая. Та өглөөний обходын үеэр резидент эмчийн яриаг сонсож байна гэж төсөөл. Та бүх үгийг сонсохын зэрэгцээ "онош тавихад чухал түлхүүр үгс"-ийг шүүж авч, хооронд нь холбож боддог. Яг үүн шиг, AI нь "Өвчтөн ханиалгаж байгаа бөгөөд цээжний зурагт шинэ нэвчдэстэй байгаа нь уушгины хатгалгаа байх магадлалтай" гэсэн өгүүлбэрийг уншихдаа "шинэ нэвчдэс", "ханиалга" гэх үгс хоорондоо хүчтэй холбоотойг ойлгож, эмнэлзүйн дүгнэлт хийдэг.Гэхдээ болгоомжлох зүйл бий. Трансформерууд нь үгүйсгэсэн утгыг (negation) ойлгохдоо заримдаа алдаа гаргадаг. Хэрэв эмч "Өвчтөн ханиалгаж байгаа ч халуураагүй, амьсгаадаагүй" гэж бичвэл AI нь "ханиалга" болон "хатгалгаа" гэдэг үгсийн статистик холбоог хэт чухалчилж, "халуураагүй" гэдэг үгүйсгэлийг анзаарахгүйгээр хатгалгаа байх магадлал өндөр гэж буруу дүгнэж мэднэ. AI нь бидэн шиг логикоор сэтгэдэггүй, харин үгсийн хоорондох статистик магадлалыг л тооцдог гэдгийг санаарай. Жишээ нь, кортикостероид хэрэглэж буй өвчтөн халуурахгүй байж болдгийг эмч бид мэднэ (физиологийн нөлөө). Харин AI-д үүнийг тусгайлан зааж өгөөгүй бол "халуураагүй юм чинь хатгалгаа биш" гэж магадлалыг буруу тооцоолох эрсдэлтэй.ХИЙМЭЛ ОЮУН УХААН ХЭРХЭН СУРАЛЦДАГ ВЭ?Суурь сургалт (Pretraining):Энэ нь яг л анагаахын оюутан, резидент олон жилийн турш сурах бичиг, судалгааны ажил уншиж ерөнхий мэдлэгтэй болдогтой адил юм. AI интернэт дэх асар их мэдээллийг уншиж өвчин, шинж тэмдэг, эмчилгээний ерөнхий зүй тогтлыг сурдаг. Гэхдээ сурах бичигт байхгүй шинэ өвчин, эсвэл ховор тохиолдлыг AI мэдэхгүй байж болно. Жишээ нь, 2024 оны сүүл хүртэлх мэдээллээр сургасан AI нь АНУ-д гарсан шувууны ханиадны (H5N1) сүүлийн үеийн тохиолдлуудыг мэдэхгүй тул үнээний фермийн ажилчинд илэрсэн томуу төст шинж тэмдгийг оношлохдоо үүнийг орхигдуулах магадлалтай. Мөн Chlamydia psittaci зэрэг ховор хатгалгааны талаарх өгөгдөл бага бол AI түүнийг оношийн жагсаалтад оруулахгүй орхих эрсдэлтэй.Нарийн тохируулга (Fine-tuning):Ерөнхий мэдлэгтэй болсон AI-г тусгай салбарт мэргэшүүлэхийг нарийн тохируулга (fine-tuning) гэнэ. Яг л дотрын эмч цаашаа зүрх судлалаар нарийсч суралцаж байгаатай адил. Жишээ нь, "цээжээр өвдөөгүй ч тропонин ихэссэн" өвчтөнийг оношлохдоо ерөнхий AI шууд л зүрхний шигдээс гэж магадгүй (учир нь энэ нь нийтлэг тохиолдол). Харин нарийн тохируулга хийсэн AI нь ийм тохиолдолд миокардит, уушгины эмболи, бөөрний дутагдал зэрэг өвөрмөц шалтгаануудыг илүү зөв эрэмбэлж чадна.Эх сурвалж ашиглан хариулт боловсруулах (RAG):Энэ бол AI өөрийн цээжилсэн мэдээлэлдээ найдахын оронд, эмнэлзүйн удирдамж, найдвартай мэдээллийн сангаас хариултыг хайж олж ирдэг арга юм. Яг л эмч шийдвэр гаргахаасаа өмнө ном, удирдамж сөхөж хардаг шиг. Гэхдээ энд ч эрсдэл бий. Хэрэв өвчтөний түүхэнд "пенициллиний хөнгөн харшилтай" гэж байвал удирдамж левофлоксацин зөвлөж магадгүй. Харин AI "хөнгөн" гэдгийг буруу үнэлж, солбицох урвал багатай цефалоспориныг санал болгож магадгүй. Энэ нь өвчтөний аюулгүй байдлаас илүү статистик магадлалыг барьсантай холбоотой алдаа юм. ХИЙМЭЛ ОЮУН УХААНЫ БОЛЗОШГҮЙ ЭРСДЭЛҮҮДХиймэл оюуны “зохиож бичих” чадвар (Hallucinations):AI заримдаа огт байхгүй зүйлийг маш итгэлтэйгээр зохиож бичдэг. Хэрэв таны асуулт түүний мэдлэгээс хэтэрсэн эсвэл өгөгдөл нь дутуу байвал AI зүгээр л "тааж" эхэлнэ. Жишээ нь, шинэ антибиотикийн гаж нөлөөг асуухад эмнэлзүйн судалгаанд огт дурдагдаагүй гаж нөлөөг жагсааж бичиж мэднэ. Тиймээс их хэлний загварын боловсруулсан хариултыг эмнэлзүйн практикт шууд ашиглахаасаа өмнө анхдагч эх сурвалжтай нь тулгаж, давхар нягтлах зайлшгүй шаардлагатай.Та асуултаа асуухдаа: "Зөвхөн мэргэжлийн нийгэмлэгүүдийн удирдамж дахь мэдээлэлд үндэслэж хариулна уу. Хэрэв мэдэхгүй бол мэдэхгүй гэдгээ бич. Эх сурвалж, ном зүйг зохиож бичиж болохгүй" гэх мэтээр маш тодорхой зааварчилгаа өгөх нь зүйтэй. Ингэж хязгаарлаж өгөх нь хиймэл оюуны "хийдэл" буюу худал мэдээлэл зохиох эрсдэлийг бууруулахад туслах хэдий ч бүрэн арилгаж чадахгүй гэдгийг мөн анхаарах хэрэгтэй. Асуулт тавих урлаг (Prompt Sensitivity):Таны асуулт хэрхэн тавигдсанаас хамаарч хариулт эрс өөр гарч болно. "Насанд хүрэгчдийн уушгины хатгалгааны үед ямар антибиотик сонгох вэ?" гэж асуух, "Макролидийн тэсвэржилт манай бүс нутагт өндөр байгаа учир энэ үед ямар антибиотик сонгох вэ?" гэж асуухад AI тэс өөр зөвлөмж гаргана. Тиймээс эмнэлзүйн чухал шийдвэр гаргахдаа асуултаа 2-3 янзаар асууж, хариулт нь тогтвортой байгаа эсэхийг нягтлах (triangulate) хэрэгтэй.ИРЭЭДҮЙН ТУСЛАХУУД: АГЕНТ ГЭЖ ЮУ ВЭ?Зөвхөн асуултад хариулаад зогсохгүй, бие даан үйлдэл хийдэг AI-г "Агент" гэнэ. Жишээ нь, бөөрний дутагдалтай, олон эм уудаг, хатгалгаатай өвчтөн ирлээ гэж бодъё. Агент AI нь эмнэлзүйн удирдамжийг хайж олоод, өвчтөний шинжилгээнээс бөөрний үйл ажиллагааг шалгаж, эмийн харилцан үйлчлэлийг тооцоолсны үндсэн дээр тухайн өвчтөнд яг тохирох тун, эмийг санал болгох чадвартай. Энэ нь нарийн төвөгтэй ажлыг хөнгөвчлөх ирээдүйтэй чиглэл юм.ДҮГНЭЛТБид энэхүү нийтлэлээрээ хиймэл оюун ухаан, тэр дундаа их хэлний загварын ажиллах зарчим, анхаарал хандуулах механизм, сургалтын үе шатууд болон гарч болзошгүй алдаануудыг эмнэлзүйн жишээн дээр тайлбарлахыг хичээлээ.Технологийн энэхүү гайхамшигт дэвшлийг зөв ойлгосноор эмч та хиймэл оюун ухааны өгч буй мэдээлэлд шүүмжлэлтэй хандаж, түүнийг өдөр тутмын ажилдаа ухаалгаар ашиглах боломж бүрдэх юм. Эцэст нь, AI биднийг орлох бус, харин бидний мэдлэг чадварыг нэмэгдүүлж, өвчтөндөө илүү аюулгүй, үр дүнтэй тусламж үзүүлэхэд хүчирхэг хамтрагч, туслах байж болох юм.
