基于文本的生成人工智能工具能夠以驚人的速度完成高級寫作和通信任務，引起了公司和消費者的共鳴。但實現(xiàn)這些令人印象深刻的功能的幕后流程可能會給敏感的政府監(jiān)管行業(yè)（如保險、金融或醫(yī)療保?。盹L險，因為在不謹慎行事的情況下利用生成式人工智能。

一些最具說明性的例子可以在醫(yī)療保健行業(yè)找到。

此類問題通常與用于訓練大型語言模型 (LLM) 的廣泛且多樣化的數(shù)據(jù)集有關(guān)，大型語言模型是基于文本的生成人工智能工具用來執(zhí)行高級任務的模型。如果沒有程序員明確的外部干預，這些法學碩士往往會從互聯(lián)網(wǎng)上的各種來源不加區(qū)別地抓取數(shù)據(jù)，以擴展他們的知識庫。

這種方法最適合低風險的面向消費者的用例，其中的最終目標是準確地引導客戶獲得所需的產(chǎn)品。然而，大型數(shù)據(jù)集和人工智能模型生成輸出的混亂路徑越來越模糊了醫(yī)院和醫(yī)療保健提供者追蹤和防止?jié)撛阱e誤所需的可解釋性。

在這種情況下，可解釋性是指理解任何給定法學碩士邏輯路徑的能力。希望采用輔助生成人工智能工具的醫(yī)療保健專業(yè)人員必須有辦法了解他們的模型如何產(chǎn)生結(jié)果，以便患者和工作人員在整個決策過程中擁有完全的透明度。換句話說，在像醫(yī)療保健這樣危及生命的行業(yè)中，對于專業(yè)人士來說，曲解用于訓練人工智能工具的數(shù)據(jù)的風??險太大了。

值得慶幸的是，有一種方法可以繞過生成式人工智能的可解釋性難題——它只需要更多的控制和關(guān)注。

神秘與懷疑

在生成式人工智能中，理解法學碩士如何從 A 點（輸入）到 B 點（輸出）的概念比沿著更多設定模式運行的非生成算法要復雜得多。

生成式人工智能工具在從輸入到輸出的過程中建立無數(shù)的連接，但對于外部觀察者來說，它們?nèi)绾我约盀楹谓⑷魏谓o定的一系列連接仍然是一個謎。由于無法了解人工智能算法所采用的“思維過程”，人類操作員缺乏徹底的方法來調(diào)查其推理并追蹤潛在的不準確之處。

此外，機器學習算法使用的不斷擴展的數(shù)據(jù)集使可解釋性進一步復雜化。數(shù)據(jù)集越大，系統(tǒng)就越有可能從相關(guān)和不相關(guān)的信息中學習，并產(chǎn)生“人工智能幻覺”，即偏離外部事實和上下文邏輯的謊言，無論多么令人信服。

在醫(yī)療保健行業(yè)，這些類型的缺陷結(jié)果可能會引發(fā)一系列問題，例如誤診和不正確的處方。除了道德、法律和財務后果之外，此類錯誤很容易損害醫(yī)療保健提供者及其所代表的醫(yī)療機構(gòu)的聲譽。

因此，盡管它有潛力加強醫(yī)療干預、改善與患者的溝通并提高運營效率，但醫(yī)療保健中的生成式人工智能仍然受到懷疑，這是正確的——55% 的臨床醫(yī)生不相信它已經(jīng)準備好用于醫(yī)療用途，58% 的臨床醫(yī)生不信任完全是這樣。然而，醫(yī)療保健組織正在積極推進，其中 98% 的組織正在整合或規(guī)劃生成式人工智能部署策略，以試圖抵消該行業(yè)持續(xù)勞動力短缺的影響。

控制源頭

在當前的消費者環(huán)境中，醫(yī)療保健行業(yè)經(jīng)常陷入困境，這種環(huán)境重視效率和速度，而不是確保鐵定的安全措施。最近關(guān)于培訓法學碩士的近乎無限的數(shù)據(jù)抓取陷阱的新聞，導致版權(quán)侵權(quán)訴訟，使這些問題成為人們關(guān)注的焦點。一些公司還面臨指控，稱公民的個人數(shù)據(jù)被挖掘來訓練這些語言模型，這可能違反隱私法。

因此，高度監(jiān)管行業(yè)的人工智能開發(fā)人員應該對數(shù)據(jù)源進行控制，以限制潛在的錯誤。也就是說，優(yōu)先從受信任的、經(jīng)過行業(yè)審查的來源提取數(shù)據(jù)，而不是在未經(jīng)明確許可的情況下隨意抓取外部網(wǎng)頁。對于醫(yī)療保健行業(yè)來說，這意味著限制常見問題解答頁面、CSV 文件和醫(yī)療數(shù)據(jù)庫以及其他內(nèi)部來源的數(shù)據(jù)輸入。

如果這聽起來有些限制，請嘗試在大型衛(wèi)生系統(tǒng)的網(wǎng)站上搜索服務。美國醫(yī)療機構(gòu)在其平臺上發(fā)布數(shù)百甚至數(shù)千個信息頁面；大多數(shù)都埋得很深，患者永遠無法真正接觸到它們?；趦?nèi)部數(shù)據(jù)的生成式人工智能解決方案可以方便、無縫地將這些信息傳遞給患者。這對各方來說都是雙贏的，因為衛(wèi)生系統(tǒng)最終從這些內(nèi)容中看到了投資回報，患者也可以立即輕松地找到他們需要的服務。

受監(jiān)管行業(yè)中的生成式人工智能的下一步是什么？

醫(yī)療保健行業(yè)將從多種方面受益于生成式人工智能。

例如，考慮一下最近困擾美國醫(yī)療保健行業(yè)的普遍倦怠——預計到 2025 年，接近 50%的勞動力將辭職。由人工智能驅(qū)動的生成式聊天機器人可以幫助減輕大部分工作量，并保留過度擴張的患者訪問團隊。

在患者方面，生成式人工智能有潛力改善醫(yī)療保健提供商的呼叫中心服務。人工智能自動化能夠通過各種聯(lián)系渠道解決廣泛的詢問，包括常見問題解答、IT 問題、藥品補充和醫(yī)生轉(zhuǎn)介。除了等待等待帶來的挫敗感之外，只有大約一半的美國患者在第一次通話時成功解決了他們的問題，導致放棄率很高并且獲得護理的機會受到影響。由此產(chǎn)生的低客戶滿意度給該行業(yè)帶來了進一步采取行動的壓力。

為了使該行業(yè)真正受益于生成式人工智能的實施，醫(yī)療保健提供者需要促進其法學碩士訪問的數(shù)據(jù)的有意重組。