Алгоритмы жизни и смерти: как понять искусственный интеллект, который будет лечить людей?

Кoгдa рeчь зaxoдит o примeнeнии мaшиннoгo oбучeния, чaщe всeгo рaзгoвoры вeдут o мeдицинскoй сфeрe. И этo нe удивитeльнo: oгрoмнaя промышленность, кoтoрaя гeнeрируeт фeнoмeнaльный oбъeм дaнныx и дoxoдoв, в кoтoрoй тexнoлoгичeскиe дoстижeния мoгут улучшaть другими словами спaсaть жизни миллиoнoв людeй. Eдвa ли нeдeля прoxoдит бeз пoявлeния исслeдoвaния, кoтoрoe прeдпoлaгaeт, что такое? алгоритмы очень скоро будут лучше экспертов выказывать. Ant. прятать пневмонию или болезнь Альцгеймера — заболевания сложных органов, с глаза до сердца. И все к этому идет, да…

Проблемы переполненных больниц и перегруженного медперсонала отравляют государственные системы здравоохранения и приводят к росту расходов держи частные системы здравоохранения. И здесь, опять же, алгоритмы предлагают заманчивое вывод. Сколько раз на самом деле нужно заглянуть врача? Можно ли заменить эти посещения умным чатботом — что будет оснащен портативными диагностическими тестами, используя последние успехи в области биотехнологий? Ненужные посещения можно было бы ограничить, и пациентов можно было бы диагностировать и направлять к специалистам быстрее, безлюдный (=малолюдный) дожидаясь первичной консультации. Как и в случае с алгоритмами искусственного интеллекта, идеал состоит не в том, чтобы заменить врачей, а в волюм, чтобы дать им инструменты для сокращения повседневных аль повторяющихся частей работы. С ИИ, который может изучить тысячи сканов за минуту, «скучная рутина» остается держи машинах, и доктора могут сосредоточиться на тех частях работы, которые требуют побольше сложного, тонкого, основанного на опыте суждения о лучших методах лечения и потребностях пациента. Высокие ставки
И всегда же, как и в случае с алгоритмами ИИ, существуют риски, связанные с их использованием — хоть для задач, которые считаются обыденными. Проблемы алгоритмов «черного ящика», которые принимают необъяснимые решения, порядочно серьезны, когда вы пытаетесь понять, почему автоматизированный чатбот-наемщик не впечатлился вашим рассказом во время собеседования. В контексте здравоохранения, идеже принимаемые решения могут означать жизнь или кончина, последствия алгоритмического сбоя могут быть фатальными. Нейронные козни прекрасно справляются с обработкой большого количества тренировочных данных и установления связей, поглощением нижележащих закономерностей неужели логики системы в скрытых слоях линейно алгебры; прощай то обнаружение рака кожи по фотографиям может ли быть обучение письму псевдошекспировским языком. И они не могут отличить корреляцию ото причинно-следственной связи. Возникают интересные дилеммы исполнение) медицинских работников. Мечта о больших данных в медицине заключается в томик, чтобы снабжать нейронную сеть «огромными массивами данных о здоровье», заставать сложные, неявные отношения и выносить индивидуальные оценки в отношении пациентов. Что-нибудь если такой алгоритм окажется неоправданно эффективным в диагностике состояния здоровья сиречь назначении лечения, но у вас не будет научного понимания того, в духе эта связь работает на самом деле? Ультра- много потоков, которые нужно распутать
Статистические модели, которые лежат в основе таких нейронных сетей, почасту предполагают, что переменные независимы друг от друга, а в сложной, взаимодействующей системе вроде человеческого тела, сие не всегда так. В некотором смысле это известная план в медицинских науках — существует много явлений   и связей, которые наблюдались десятилетиями, так до сих пор плохо изучены на биологическом уровне. Парацетамол —   одно с самых популярных болеутоляющих средств, но до этих пор ведутся активные дискуссии о его действии. Люди в белых халатах-практики могут стремиться использовать любой инструмент, преимущественно эффективный, независимо от того, основан ли дьявол на глубоком научном понимании. Любители копенгагенской интерпретации квантовой механики могут перефразировать сие как «Заткнись и лечи!». Разумеется, в этой области ведутся дискуссия о том, не рискуем ли мы с этим подходом забыть из виду более глубокое понимание, которое в конечном счете окажется сильнее плодотворным — например, для поиска новых лекарств. За вычетом философских закорючек, есть и практические проблемы: если ваша сестра не понимаете, как работает черный ящик медицинского алгоритма, точь в точь подходить к вопросам клинических испытаний и регулирования? Может понадобиться прозрачность в отношении того,   как функционирует алгоритм — данных, в которые он смотрит, пороговых значений, на основе которых делает выводы либо предоставляет консультации, но это может противоречить мотивам получения прибыли и стремлению к секретности в медицинских стартапах. Однако это может помешать людям пожинать плоды полезной работы таких алгоритмов. Квалиметрия алгоритмов
Новые алгоритмы в области здравоохранения не смогут содеять то, что физики сделали с квантовой механикой, вот что не будут развернуты в полевых условиях. Вроде же нам выбрать максимально многообещающий подход? Устроение стандартизированной системы клинических испытаний и тестирования, которая в равной степени брось применима к алгоритмам, работающим по-разному или использующим неодинаковые входные данные, будет сложной задачей. Клинические испытания, в которых используются отрывок небольшого размера, например, с алгоритмами, которые пытаются персонализировать излечение для отдельных людей, также будут сложными. С небольшими выборками и слабым научным пониманием происходящего неприемлемо будет определить, преуспел алгоритм или потерпел замазка. Ant. процветание, потому что он может быть неплохим в целом, только показать неудачный пример. «Что еще более животрепещуще, идеальный алгоритм в «черном ящике» пластичный и постоянно обновляется, следственно традиционная модель клинических испытаний не подходит, ибо полагается на статический продукт, подлежащий стабильной оценке». Придется погонять всю систему медицинских и клинических испытаний. Нам придется вырвать. Ant. потерять способ обрабатывать большие данные, использовать жуткую силу нейронных сетей и автоматизировать дух. Мы должны осознавать недостатки и предубеждения такого подхода к решению проблем. Согласны? Давайте обсудим в нашем чате в Телеграме.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *