Державний Cекретар Ватикану представив бачення Святого Престолу щодо використання штучного інтелекту в медицині, виступивши у Вищому інституті охорони здоров’я з нагоди відкриття Центру вивчення та розвитку ШІ.
Про це пише Vatican News.
За словами кардинала, тема штучного інтелекту «визначає наше сьогодення й незворотно формує наше майбутнє». Це – один із найвагоміших технологічних та антропологічних викликів нашого часу.
Жодна сфера не демонструє можливості штучного інтелекту так яскраво, як медицина та опіка над людиною, – але саме тут потенційні ризики потребують особливої пильності.
Церква, підкреслив кардинал П’єтро Паролін, дивиться на науково-технічний поступ із двох боків. Вона захоплюється людським генієм, тією іскрою творчості, яка відображає образ Творця, але водночас бачить і загрози. «Якщо раніше небезпекою було звести людину лише до “фізичної сили”, то сьогодні ризик полягає в тому, щоб звести її до сукупності процесованих даних, до “профілю”, який можна проаналізувати, до статистичного випадку, з якого можна зробити імовірні висновки».
Питання, пов’язані зі штучним інтелектом, вимагають глибокого етичного розпізнання. Перш за все, це небезпека дегуманізації лікування або відокремлення медицини від лікаря. Адже стосунки між лікарем і пацієнтом є «екзистенційними» – їх не може замінити жоден алгоритм. Спілкування між медиком і пацієнтом – це не просто «обмін інформацією», а «терапевтичний союз, заснований на довірі».
«Алгоритм може поставити діагноз, але не здатен вимовити слово втіхи. Він може розрахувати дозу, але не може потиснути руку. Може оптимізувати протокол, але не здатен співпереживати перед таємницею болю».
Інший ризик, на який звернув увагу кардинал Паролін, – це «алгоритмічна дискримінація». «Алгоритми навчаються на тих даних, які їм надають… Якщо ці дані відображають упередження чи нерівність, що існують у суспільстві, то штучний інтелект лише відтворить і посилить їх, створюючи нову, спотворену форму “санітарного апартеїду”. Система, навчена переважно на даних людей певної національності або рівня доходів, може виявитися неефективною або навіть шкідливою, якщо її застосовувати до інших груп населення. Принцип інклюзивності вимагає гарантувати, щоб користь від штучного інтелекту в медицині була справді для всіх – насамперед для найуразливіших».
Крім того, постає питання відповідальності: «Якщо алгоритм допустить діагностичну помилку з фатальними наслідками – хто нестиме відповідальність? Лікар, який на нього покладався? Лікарня, що придбала програмне забезпечення? Компанія-розробник? Чи інженер, який написав код? Відсутність чітких критеріїв у цьому питанні створює ризик “системної безвідповідальності”, коли врешті-решт ніхто не буде справді відповідальним, а постраждалий не отримає справедливості».
Державний Cекретар Ватикану також поставив питання: якою цінністю в сьогоднішній «культурі відкинення» алгоритм оцінюватиме, наприклад, літню людину з численними захворюваннями, невиліковно хворого чи новонароджену дитину з важкими вадами розвитку? Є небезпека, що, виходячи з розрахунку «користь – витрати», штучний інтелект може ухвалювати рішення про припинення лікування, вважаючи чиєсь життя «недостатньо цінним».
«Тут ми торкаємося серцевини нашої етики, – пояснив кардинал Паролін. – Для нас життя має безмежну вартість від зачаття до природної смерті, і ця вартість не залежить від його корисності, продуктивності чи фізичної досконалості. Гідність людини стоїть вище будь-яких розрахунків».
Це, за його словами, не означає, що слід відкидати нові технології: «Ні, це ніколи не було шляхом Церкви. Її шлях – це людяне керування технологіями. Її шлях – це постійний і плідний діалог між науковцями, етичними експертами, філософами, теологами та політичними лідерами, аби разом будувати майбутнє, у якому інновації стануть синонімом справжнього людського розвитку».
Підсумовуючи виступ у Вищому інституті охорони здоров’я, кардинал Паролін наголосив: сьогодні людство стоїть на роздоріжжі й має зробити фундаментальний вибір – або технології, що відкидають найслабших і перетворюють лікування на товар, або розвиток і застосування штучного інтелекту, який буде справді «інтелектуальним», просвітленим етикою і покликаним по-справжньому «служити» – задля цілісного добра кожної людської особи.
