お知らせ
【識者の眼】「医療AIの進化とブラックボックス問題」渡部欣忍
近年、医療分野でも人工知能（AI）という言葉を耳にする機会が増えました。AI研究の歩みを振り返れば、1950年代の「第一次AIブーム：考えるのが早いAI」から始まり、1980年代のエキスパートシステムに代表される「第二次AIブーム：ものしりなAI」を経て、現在の機械学習による「第三次AIブーム：データから学習するAI」へと大きく変貌をとげています。医療分野へのAIの応用は、ピッツバーグ大学の「Internist-1／QMR」やスタンフォード大学の「MYCIN」といったエキスパートシステムが端緒を開きました。
これらのエキスパートシステムは、コンピュータに知識を教え込み、論理ルールや確率的推論を用いて診療法を提案するものでした。しかし、新しい医学知識を絶えず追加・更新する必要があり、管理コストが高く、かつ、当時は医師の能力を凌駕できませんでした。それゆえ、医療現場への導入はゆっくりとしたものでした。
一方、近年のディープラーニングを中心とする機械学習型AIは、X線写真やCT、MRIなどの画像解析で病変を高精度に検出するなど、医療現場に急速に浸透しつつあります。膨大なデータを学習素材として取り込み、人間が見落とすような特徴までとらえてパターンを抽出できます。ビッグデータを潤沢に学習素材として取り込むことにより、認識や予測精度が向上するという強みもあります。
さらに、AIは診断補助だけでなく、治療方針の決定やリスク予測、個別化された投薬量の提案など、多角的に医師を支援しうる潜在能力もあるそうです。ゲノム解析や遺伝子診断の領域では、AIの高度なデータ解析能力がプレシジョン・メディシンの実現に欠かせないものとなりつつあります。
こうした“学習するAI”の台頭は、医師の専門知識や豊富な経験に基づいて行われてきた診療のプロセスを大きく揺さぶるものです。かつては人間が優位とされた論理や推論の領域ですら、機械学習の特徴量抽出の技術により、新たな示唆が得られるようになりました。これは、診療のアルゴリズム自体がコンピュータによって生成されることを意味し、AIの思考プロセスを人間が理解できない「ブラックボックス問題」が発生するようになります。
私自身が専門とする整形外科でも、股関節や膝関節の人工関節手術では、ナビゲーションシステムやロボット手術が普及しはじめました。手術計画は依然として外科医の手に委ねられていますが、近い将来、個々の患者に合わせた最適な手術計画までAIが決定し、外科医の知識・経験・技術はこの領域の手術では無用になってしまうでしょう。そのときに診療の根拠をどのように説明し、責任を負うのかという問題に私たちは真正面から向き合い、解決策を模索することになるでしょう。
渡部欣忍（帝京大学医学部整形外科学講座教授、帝京大学医学部附属病院外傷センター長）［医療AI］［ブラックボックス問題］
