放射科設備 |
超聲科設備 |
手術室設備 |
檢驗科設備 |
實驗室設備 |
理療科設備 |
急救室設備 |
兒科設備 |
眼科設備 |
牙科設備 |
婦科男科設備 |
滅菌消毒設備 |
醫用教學模型 |
美容儀器設備 |
家庭保健器具 |
CR病床 推車 柜 |
ABS病床輪椅 |
醫用耗材 |
新聞中心
《歐盟人工智能法案》對醫療器械行業的影響及必要準備
《歐盟人工智(zhi)能法案》是(shi)世界上(shang)第(di)一部人工智(zhi)能法規,已于 2024 年 7 月(yue) 12 日在歐盟官(guan)方公報(bao)上(shang)公布(bu)。
歐洲人工智能(neng)法案的目(mu)標
這項(xiang)新法規旨在確保各行業人工智能技術的安(an)全(quan)性和(he)可靠性,提高透明度(du),并為(wei)未來投放(fang)歐盟市場的可信人工智能系統(tong)制(zhi)定總體(ti)框架。它(ta)引入了(le)基于(yu)風險(xian)的方法、對(dui)(dui)運營(ying)商施加的各自(zi)義(yi)務以及對(dui)(dui)未能滿足要求的潛在處罰。
這項立法為何重要?
作為一個開(kai)創性的(de)監管框架(jia),《歐(ou)(ou)盟人工(gong)智能法案(an)》開(kai)創了可能影響全球人工(gong)智能監管的(de)先例。對于醫療(liao)器械公司(si)來(lai)說,了解(jie)并遵守該法案(an)對于在歐(ou)(ou)盟保(bao)持市(shi)場(chang)準(zhun)入和競爭優勢至關重要(yao)。
立法要點
《歐盟(meng)人工智(zhi)能法案》引入了幾項關鍵條款:
- 人(ren)工智能定(ding)義(yi):該法對人(ren)工智能系統進行了(le)廣泛定(ding)義(yi),雖然(ran)沒有將其范圍限制在某(mou)些(xie)技術(shu)或其應用(yong)上,但重點是(shi)確保全面覆蓋。
- 人工(gong)智(zhi)能(neng)能(neng)力(第 5 條):人工(gong)智(zhi)能(neng)系統(tong)提供商和運營商必須確保其(qi)員工(gong)和用(yong)戶(hu)對(dui)人工(gong)智(zhi)能(neng)及(ji)其(qi)部(bu)署的(de)(de)(de)系統(tong)有足夠的(de)(de)(de)了(le)解。這(zhe)應考慮(lv)到他們(men)的(de)(de)(de)技術技能(neng)、經驗(yan)、教育、培訓(xun)以及(ji)人工(gong)智(zhi)能(neng)的(de)(de)(de)使用(yong)方式和對(dui)象。
- 高風(feng)險人(ren)(ren)工(gong)智(zhi)(zhi)能(neng)系統(第 6 條):高風(feng)險人(ren)(ren)工(gong)智(zhi)(zhi)能(neng)系統,如用于(yu)關鍵基礎(chu)設(she)施、教育、就業和執法領域的系統,以(yi)及大量(liang)人(ren)(ren)工(gong)智(zhi)(zhi)能(neng)醫療器械,必須滿足風(feng)險管(guan)理、數據治理、透(tou)明(ming)度(du)和人(ren)(ren)工(gong)監督方面的嚴格要求。
- 基于風(feng)(feng)(feng)險(xian)(xian)(xian)的(de)(de)方法(fa) + 風(feng)(feng)(feng)險(xian)(xian)(xian)管理 (第 9 條):人工智能系(xi)統分為(wei)四個風(feng)(feng)(feng)險(xian)(xian)(xian)類(lei)別:不可接(jie)受的(de)(de)風(feng)(feng)(feng)險(xian)(xian)(xian)、高風(feng)(feng)(feng)險(xian)(xian)(xian)、有(you)限(xian)風(feng)(feng)(feng)險(xian)(xian)(xian)和最(zui)低(di)風(feng)(feng)(feng)險(xian)(xian)(xian),每個類(lei)別都有(you)具體的(de)(de)規定和要求。
- 高風險人工(gong)智能系(xi)統的(de)基本權利影響評估(第27 條):該法附(fu)件三第 5(b)和(c)點中(zhong)提及的(de)高風險人工(gong)智能系(xi)統的(de)部(bu)署(shu)者,應(ying)評估使用此(ci)類系(xi)統可能對基本權利產生的(de)影響。
- 數(shu)據(ju)管理(li)(第(di) 10 條)和(he)記(ji)錄(lu)保(bao)存(cun)(第(di) 12 條):保(bao)持系(xi)統(tong)數(shu)據(ju)、培(pei)訓方法(fa)和(he)操作流程(cheng)的詳細(xi)記(ji)錄(lu),以確保(bao)問責和(he)可追(zhui)溯性(xing)。此(ci)類(lei)人工(gong)智能系(xi)統(tong)使用的數(shu)據(ju)應(ying)考慮進一步(bu)遵守數(shu)據(ju)法(fa)規(gui)的要求,如,GDPR (EU) 2016/679 和(he)(EU) 2018/1725以及(ji)Data Protection Law Enforcement Directive (EU) 2016/680。
- 透明度(du)(第 13 條(tiao)):該法將(jiang)要求運營商向最終(zhong)用戶提供明確(que)的(de)信息,讓他(ta)們了(le)解(jie)與此類人工智能(neng)系統互動的(de)限制(zhi)和風險。
- 人(ren)(ren)工監督(第 14 條(tiao)):允許(xu)人(ren)(ren)工干預和監督,確(que)(que)保人(ren)(ren)工智能(neng)的決定在必(bi)要時可以(yi)被審查和糾正。- 準確(que)(que)性、穩健性和網絡安(an)(an)全(第 15 條(tiao)):高(gao)風險(xian)人(ren)(ren)工智能(neng)系統必(bi)須符合最先進的準確(que)(que)性、穩健性和網絡安(an)(an)全要求。
- 上市后(hou)監(jian)(jian)測系統:建立(li)市場監(jian)(jian)督框架以(yi)確保合規,包(bao)括建立(li)國家監(jian)(jian)督機構和歐洲(zhou)人工智能辦(ban)公室。
- 由公(gong)告(gao)機構進(jin)行符(fu)合性評估:高風險人工智能(neng)系統將要(yao)求(qiu)(qiu)由經(jing)認(ren)可的(de)(de)公(gong)告(gao)機構進(jin)行符(fu)合性評估,類似于新立(li)法(fa)框架內的(de)(de)其他立(li)法(fa),如歐盟 MDR/IVDR。此外,人工智能(neng)醫(yi)療器械的(de)(de)技術文(wen)件(第 11 條)預(yu)計將納(na)入(ru)歐盟人工智能(neng)法(fa)案附件 IV 中概述的(de)(de)歐盟法(fa)案技術文(wen)件要(yao)求(qiu)(qiu)。
"AI System"的定(ding)義
該法案將 "AI System"定義為 "means a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments."。
該(gai)定義(yi)源于經(jing)合組(zu)織(zhi)(OECD)提供的定義(yi),雖然(ran)它并沒(mei)有將范(fan)圍(wei)(wei)限制在(zai)某些(xie)技(ji)術或(huo)人工(gong)智(zhi)能的應用上,但其目(mu)的是(shi)提供一(yi)個全面的覆蓋范(fan)圍(wei)(wei),期望在(zai)未來會有更(geng)多尚未發明(ming)的算法和技(ji)術出現。基于風(feng)險的分類(lei)系統該(gai)法根據潛在(zai)風(feng)險對人工(gong)智(zhi)能應用進行分類(lei):
- 禁止(zhi)的人(ren)工智能(neng)(第 5 條(tiao)):禁止(zhi)的應用,如政府用于社會(hui)評分的人(ren)工智能(neng)系統(tong),不允許投放市(shi)場,或只有在(zai)地方政府特別批準的情(qing)況下才能(neng)投放市(shi)場。
- 高風(feng)險人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(第(di) 6 條):關鍵領域(包(bao)括(kuo)醫療(liao)保健)的(de)(de)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)系統(tong),必須滿足嚴格的(de)(de)要求(qiu),并按照《歐盟人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)法案》或相(xiang)關設備的(de)(de)行(xing)(xing)業法規進行(xing)(xing)符合性評估。(例如,人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)醫療(liao)器(qi)械(xie))- 有限風(feng)險人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng):承擔透明度相(xiang)關義務的(de)(de)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)系統(tong)。
- 極小風險人工智能(neng):風險極小或沒有風險的(de)系統(tong),但須自愿遵守(shou)法規。
高風(feng)險(xian)人工智能應(ying)用實例(li)
符合新法規(gui)中 "高(gao)風(feng)險人工智能"定義(yi)的(de)設(she)備包括已受其他行業(ye)法規(gui)監(jian)管的(de)行業(ye),以及(ji)其他特(te)定行業(ye)法規(gui)尚未涵蓋(gai)的(de)設(she)備。這些高(gao)風(feng)險應用必須(xu)經過嚴(yan)格的(de)符合性評(ping)估,并遵守嚴(yan)格的(de)數據管理(li)和透明度要求。
例(li)如,現有(you)歐盟 MDR/ IVDR 所涵蓋的醫療器(qi)械(xie)在遵守(shou)《歐盟人(ren)(ren)工智能(neng)法案》的必(bi)要合(he)規性方面(mian)表現突出。例(li)如,診斷(duan)工具、醫療決策支持系(xi)統、患者(zhe)自動監(jian)測技術等人(ren)(ren)工智能(neng)醫療器(qi)械(xie)都是新(xin)人(ren)(ren)工智能(neng)法規的適用對象(xiang)。
不受(shou)歐盟特定行業立法(fa)(fa)監管(guan)的設備(bei)也可能成為人工(gong)智(zhi)能法(fa)(fa)案的對象,例(li)如關鍵基礎設施(管(guan)理(li)電網(wang)、供水管(guan)網(wang)和運輸系統的人工(gong)智(zhi)能系統)和其他一些應用。
實施時間表
該法案計劃分階段實施,將于 2024 年(nian) 7 月 12 日(ri)在歐(ou)盟官方公報上公布后 20 天內執行,高(gao)風險人工智能系統的申請日(ri)期和執行日(ri)期將根據第 111 條和第 113 條推(tui)出(chu):
- 2026 年 8 月 2 日:《歐盟人工(gong)(gong)智能(neng)法(fa)案》生效 24 個(ge)月后,未受其他部門(men)立(li)法(fa)監(jian)管的高風險(xian)人工(gong)(gong)智能(neng)系統應遵(zun)守(shou)該法(fa)。
- 2027 年(nian) 8 月 2 日:《歐盟人工(gong)智能法案》生效 36 個月后,受《歐盟人工(gong)智能法案》附件二所列部門立(li)法監管的(de)設備(如醫(yi)療器械(xie)(xie))應(ying)遵守該法。(例如,醫(yi)療器械(xie)(xie)和 IVD)
- 2023 年 8 月 2 日 已投放市(shi)場或投入使用(yong)的人工(gong)智能系統(tong)以(yi)及已標注的通(tong)用(yong)人工(gong)智能模型應在 2030 年 8 月 2 日之前達到合規要求(第 111 條)。
市場準入
出口到(dao)歐(ou)盟市(shi)場并在歐(ou)盟市(shi)場上(shang)銷售設備的(de)醫療(liao)器械制造商必(bi)須證明其人工智能(neng)醫療(liao)器械符合(he)《歐(ou)盟人工智能(neng)法案》,以保持歐(ou)盟市(shi)場的(de)準(zhun)入。不合(he)規可能(neng)會導致嚴重的(de)準(zhun)入障(zhang)礙,降低(di)競爭優勢和(he)市(shi)場份額,或受到(dao)新法規的(de)嚴重處罰。
雖(sui)然預計大多數受影響的器械都屬(shu)于 "軟件即醫(yi)療器械"(SaMD)類別,但作為任何(he)設備組成部(bu)分的人工(gong)(gong)智能,只要符合(he)高風險人工(gong)(gong)智能的定義,也同(tong)樣(yang)是該法規的對象(xiang)。
此外,與歐盟 MDR/IVDR 類似,《歐盟人工智能法案(an)》也(ye)打算對軟件和人工智能系統進行監(jian)管(guan),只要其在監(jian)管(guan)范圍(wei)內,則不論其位置如何。
歐盟 MDR/IVDR 與《歐盟人(ren)工(gong)智(zhi)能(neng)法(fa)案》對醫療(liao)人(ren)工(gong)智(zhi)能(neng)系(xi)統(tong)的分類 高(gao)風險人(ren)工(gong)智(zhi)能(neng)
《歐盟人工(gong)智能法案(an)》引入(ru)了高(gao)風險人工(gong)智能類別,該類別的定義獨(du)立于歐盟 MDR 和 IVDR 中概述的醫療(liao)器械分(fen)類,也無意對產品進(jin)行更高(gao)的分(fen)類。分(fen)類應單獨(du)進(jin)行,并遵循法規規定的相應合格評定途(tu)徑。
合格評定
《歐盟(meng)人(ren)工(gong)智(zhi)(zhi)能法案》采用了(le)新立法框架 (NLF),因此概述了(le)與歐盟(meng) MDR/IVDR 相似(si)的(de)(de)(de)結(jie)構(gou)和(he)方(fang)法,并(bing)概述了(le)高(gao)風險人(ren)工(gong)智(zhi)(zhi)能醫療器械(xie)(xie)供應商(制造(zao)(zao)商)預期(qi)的(de)(de)(de)合(he)格評(ping)定程(cheng)序。雖(sui)然此類器械(xie)(xie)的(de)(de)(de)主要符合(he)性評(ping)估將遵循歐盟(meng) MDR/IVDR 下(xia)的(de)(de)(de)特定行業程(cheng)序,但醫療器械(xie)(xie)制造(zao)(zao)商必須保(bao)留詳細文件,包括涉及人(ren)工(gong)智(zhi)(zhi)能特定方(fang)面的(de)(de)(de)技(ji)術文件。制造(zao)(zao)商還需要保(bao)持警惕系統(例如向監管機構(gou)報告事故),并(bing)接受第三方(fang)公告機構(gou)的(de)(de)(de)強制合(he)格性評(ping)估和(he)定期(qi)審(shen)核,以確保(bao)符合(he)所有法規。
將(jiang)高(gao)風險人工智能設備投(tou)放歐盟(meng)市場(chang)
將高(gao)風險人工智能(neng)醫(yi)療器械投放到歐(ou)盟(meng)市場需要滿(man)足(zu)額外的要求(qiu)。醫(yi)療器械公司必須適應這些變化,確保(bao)所有產(chan)品符合(he)必要的統一標準,并(bing)在器械上貼上 CE 標志。
產(chan)品(pin)生(sheng)命(ming)周(zhou)期考(kao)慮因素
根據(ju)《歐(ou)盟人工(gong)(gong)智能(neng)法(fa)案》,人工(gong)(gong)智能(neng)驅動的(de)(de)(de)醫療器械的(de)(de)(de)開發很快將以新的(de)(de)(de)統一(yi)標準(zhun)為指(zhi)導,為最先進的(de)(de)(de)實踐設定(ding)基準(zhun)。這些標準(zhun)強(qiang)調健全的(de)(de)(de)數據(ju)管理、算(suan)法(fa)決策的(de)(de)(de)透明度、人工(gong)(gong)監(jian)督(du)以及對人工(gong)(gong)智能(neng)性能(neng)的(de)(de)(de)持續監(jian)控。
由于嚴格的(de)風險管理和軟件生命周期標準,醫療(liao)器械制造商已經熟(shu)悉了基于風險的(de)設計和開發方(fang)法。然(ran)而(er),現(xian)在他們需要將(jiang)這些原則專門應用(yong)于人工智能(neng),并盡早接受這些新標準。這一轉變旨在確保人工智能(neng)驅動的(de)醫療(liao)器械從一開始就(jiu)是安全、可(ke)靠和透明的(de)。
合規成本
適(shi)應《歐(ou)盟(meng)人(ren)工智(zhi)能(neng)法案》將帶來額(e)外的合規成本(ben),包括監管認證、網絡安(an)全、數據保護措施(shi)、額(e)外審(shen)核和(he)持續的人(ren)工智(zhi)能(neng)系統監控。雖然預計這(zhe)些(xie)將是現(xian)有歐(ou)盟(meng) MDR/IVDR 符合性評(ping)估(gu)的延伸,但(dan)公告機構必須具(ju)備處理《歐(ou)盟(meng)人(ren)工智(zhi)能(neng)法案》具(ju)體要求的能(neng)力。盡管增加了開支(zhi),但(dan)這(zhe)些(xie)投資(zi)對于(yu)獲得歐(ou)盟(meng)市(shi)場準(zhun)入和(he)保持競爭優勢至關重要。
《歐(ou)盟歐(ou)洲人(ren)(ren)工智能(neng)法案》代表了(le)人(ren)(ren)工智能(neng)技術(shu)監管(guan)格局的(de)重大(da)轉(zhuan)變(bian),對醫(yi)療(liao)器(qi)械行(xing)業(ye)(ye)的(de)影響毋庸置(zhi)疑(yi)。對于擁有人(ren)(ren)工智能(neng)醫(yi)療(liao)器(qi)械的(de)公司來(lai)說,了(le)解并遵守《歐(ou)盟人(ren)(ren)工智能(neng)法案》的(de)適用要(yao)求對于保(bao)持和擴大(da)其在歐(ou)盟的(de)市場份額至關重要(yao)。通過主(zhu)動適應(ying)這(zhe)些變(bian)化,醫(yi)療(liao)器(qi)械制造商可以(yi)確保(bao)其產(chan)品符合最高的(de)安全性(xing)和有效(xiao)性(xing)標準,從而促進醫(yi)療(liao)保(bao)健行(xing)業(ye)(ye)的(de)信(xin)任和創新(xin)。
本(ben)文由廣州佳(jia)譽醫療器械有(you)限公司/佛山浩揚醫療器械有(you)限公司聯合編輯