人手によってしか実現できないと考えていた業務への先進技術の適用

令和6年度春期システムアーキテクト試験午後Ⅱ 問題問1「人手によってしか実現できないと考えていた業務への先進技術の適用」についてである。

問題文

認識 AI，生成 AI，RPA ツールなどを始めとした先進技術を，クラウドサービスやソフトウェアパッケージなどで容易に利用できるようになってきた。それに伴い，認識と判断のデジタル化の難しさや費用対効果などの理由からシステム化が困難で人手によってしか実現できないと考えていた業務の，大幅な効率化や自動化が可能になった。システムアーキテクトは，先進技術を適用した情報システムの構築を推進する必要がある。例えば，次のような業務への適用が考えられる。

医療機関の画像診断業務において，がん症例画像や正常画像を学習させた認識 AI によって，がん疾患の発見を補助する。
広報部門の社外発表文を作成する業務において，過去の発表文やコンサルタントの指摘内容などを学習させた生成 AI に発表の趣旨を与えて発表文案を作成する。
注文業務において，RPA ツールで入力，連携を自動化し，個別入力を排除する。

一方で，これらの先進技術を適用する場合，様々な課題が生じることがある。例えば次のような，課題と対策が考えられる。

画像診断業務を自動化すると，”医師でなければ，医業をなしてはならない” という法律に抵触するおそれがある。そのため，画像診断結果を元の画像上に表示するまでにとどめて，最終的に医師が診断するなど，自動化の範囲を限定する。
生成 AI で学習データにインターネット上の情報を利用すると，偏った内容や誤った内容を回答してしまうおそれがある。そのたえｍ，根拠となる情報や参考情報を一緒に提示する。

あなたの経験と考えに基づいて，設問ア～ウに従って論述せよ。