Здравоохранение и искусственный интеллект

Здравоохранение и искусственный интеллект

Источник · Перевод автора

«Искусственный интеллект (ИИ) постепенно находит свое место, в то время как блокчейн борется в здравоохранении так же сильно, как и в других сегментах», – отметил Venrock. «В типичном темпе инновации в здравоохранении созревают, блокчейн может никогда не иметь значения, но есть большая уверенность, что ИИ добьется успеха только с 1-процентным пессимизмом».

Это не значит, что ИИ сегодня воспринимается в подавляющем большинстве. Вместо этого 53 процента все еще ждут, чтобы это изменило ситуацию, но 39 процентов сказали, что это незначительно, и только 7 процентов считают это значимым.

Однако, когда дело доходит до блокчейна, 75 процентов все еще пытаются найти свою роль в здравоохранении, как выяснила фирма, тогда как 18 процентов нашли способы использования блокчейна в интересах пациентов. Последние 7 процентов все еще спрашивают, что такое блокчейн.

БОЛЬШЕ НОВЫХ ЦИФРОВЫХ СТАРТАПОВ ЗДРАВООХРАНЕНИЯ

В совокупности 78 процентов из 250 с лишним респондентов заявили, что в ближайшие два года появятся новые IT-компании в сфере здравоохранения. В частности, 30 процентов сказали, что увеличение будет значительным, в то время как 48 процентов заявили, что число «несколько» увеличится. Те, кто ожидает значительного роста новых компаний, выросли с 17 процентов в 2018 году и 14 процентов в 2017 году.

Что касается менее оптимистичной стороны, 14 процентов заявили, что ожидают, что число компаний останется прежним, а 8 процентов ожидают увидеть меньше новых компаний.

ТАЛАНТ И ФИНАНСИРОВАНИЕ

В течение многих лет IT-отделы здравоохранения сталкивались с нехваткой талантов, и конца этому не видно, и добавление новых компаний, даже на ранних стадиях, вряд ли поможет в ближайшее время.

Так что, возможно, не удивительно, что 72 процента участников Venrock обеспокоены наймом необходимых талантов. Почти половина из них (48 процентов) и несколько обеспокоены, а остальные 24 процента очень обеспокоены. Это оставляет 8 процентов, кто по какой-либо причине и не обеспокоен вообще, и 20 процентов, которые решили остаться нейтральными в этом вопросе.

Интересно, что подобные 46 процентов обеспокоены финансированием, хотя 39 процентов несколько обеспокоены, и только 7 процентов очень обеспокоены.

ВОПРОСЫ РАЗНООБРАЗИЯ

Диверсификация рабочей силы – отличный способ уменьшить дефицит талантов. Но как медицинские учреждения делают на этом фронте?

По крайней мере, среди респондентов Venrock есть повод для оптимизма: 35% утверждают, что с самого начала сделали это приоритетом, 38% заявили, что добились прогресса, 20% признались, что могут добиться большего, а 7% указано, что разнообразие не является приоритетом.

«Независимо от того, как работает рынок», – сказал Venrock в отчете, – «следует отдать должное сектору, способствующему общему позитивному отношению к разнообразию».

В дополнение к общеизвестному факту проблемы незрелости нейронной сети (атак со стороны противника), появилась возможность отравления логики нейронной сети с глубоким обучением (вывод результатов) из-за постепенной ложной загрузки данных (подстановки).

Такое положение дел может сделать нейронную сеть неработоспособной и даже опасной для людей, которых она затрагивает.

Deep learning в двух словах: что делает нейронные сети уникальными и сложными для отладки?

Короче говоря, нейронная сеть основана на очень простом компоненте – получении набора входных данных и возвращении значения. Нейрон получает взвешенную сумму входных данных (плюс числовое смещение) и передает их в нелинейную функцию активации. Затем эта функция возвращает значение, которое можно использовать в качестве одного из входов для другого нейрона (см. Рисунок ниже).

В зависимости от типа поставленной задачи, комбинации ввода-вывода нейронов имеют много возможных модификаций и вариаций – они называются зоопарком Нейросети Азимова. Большинство механизмов нейронной сети являются сложными и имеют нестабильное поведение в зависимости от накопленного опыта.

Deep learning – это подмножество машинного обучения: область искусственного интеллекта (ИИ), где программное обеспечение создает свою собственную логику, исследуя и сравнивая большие наборы данных за бесконечное число итераций и усиливая взвешенную сумму входных данных и смещений с каждой итерацией.

Это автоматизированный и самоорганизующийся процесс, направленный на постепенное уточнение результатов на основе входных данных. Этот процесс не похож на традиционный алгоритм кодирования. Принципы работы нейронной сети определяют взаимосвязь между двумя группами основных параметров программного обеспечения: «точность, эффективность» и «контроль, прозрачность». Это отношение называется «черный ящик», а отклонение определяется «золотым правилом механики».

Очевидно, что нейронная сеть может очень хорошо выполнять определенные задачи, но трудно понять миллиарды нейронов и параметров, которые влияют на решения, принимаемые сетью. Они определяются сочетанием типов алгоритмов глубокого обучения и самой модели самой сети. Есть две характеристики нейронных сетей, необходимых для кибербезопасности:

  • Нейронная сеть имеет абстрактную функцию, идентичную взвешиванию, которая очень зависит от логического значения входных данных. Вы не можете качественно оценить эти данные, и невозможно сказать, что нейронная сеть хороша или плоха.
  • Алгоритм работы нейронной сети нестабилен и непрозрачен. Слишком часто даже его создатель не может предвидеть, как сеть будет функционировать в конце периода обучения.

Нейронная сеть – отрицательная синергия: от уникальных и ярких характеристик алгоритмов глубокого обучения до кибератак

Разбираясь в теме моделей нейронных сетей и их специфических особенностей, мы можем выделить два основных недостатка, которые могут нанести ущерб тем, кто вовлечен во все области применения нейронных сетей, от финтех до образования.

Состязательные атаки

  • Этот метод атаки основан на возможности того, что неопытная нейронная сеть может совершать ошибки, делая непоследовательные или иногда даже безумные выводы. Один зарегистрированный случай – городская полиция Великобритании, использующая нейронную сеть для обнаружения и маркировки изображений жестокого обращения с детьми, но она ошибочно приняла изображение песчаных дюн за обнаженной грудью женщины. В другом случае студенты MIT внесли некоторые изменения в игрушечную черепаху, а нейронная сеть классифицировала ее как винтовку.

Атака отравления данными

  • Этот особый тип атаки направлен на создание проблемного поведения (логического вывода) в алгоритмах глубокого обучения через чрезмерную зависимость от данных. Алгоритмы глубокого обучения не имеют понятия морали, здравого смысла и дискриминации, которые имеет человеческий интеллект. Они показывают только скрытые отклонения и тренды данных, которые они изучают. Один впечатляющий пример, раскрывающий возможность такого типа атак в принципе, произошел в Твиттере в 2016 году. Пользователи запустили чат-бот на базе искусственного интеллекта, созданный Microsoft, и воздействие расистской ненависти всего за 24 часа превратило чат-бота в нацистский последователь и отрицатель Холокоста, чрезмерно размещая оскорбительные комментарии.

Независимо от типа атаки, нейронная сеть может угрожать кибербезопасности, если попадет в руки не тех людей, потому что ее можно обучить быть угрозой. Обученная нейронная сеть может использоваться для одновременного управления огромным количеством компьютеров во время DDOS или ведомых атак, которые имитируют поведение пользователя сайта и изучают систему реагирования атакованной среды.

Есть все шансы, что будет сложно, если не невозможно, обезопасить сайт от такой комбинированной атаки. Хорошо обученная нейронная сеть способна одновременно атаковать все фронты: считывание данных, эмуляцию пользователей, извлечение паролей реальных пользователей и управление тысячами компьютеров из разных мест (с возможным подделкой IP-адресов в процессе) для выполнения трудно обнаруживаемого DDOS атака.

Blockchain & S.O.I.D: Наиболее перспективные защитники сетей глубокого обучения (deep learning)

Если невозможно изменить или начать управлять нейронной сетью, можно использовать другой подход: правильное структурирование алгоритмов исправления ошибок во входных данных и внедрение новых принципов организации взвешивания. Там, где классическая математика и логика не имеют силы, будут работать и другие не менее важные науки: философия и психология. Это две сильные определяющие составляющие обучения сети распознавать хорошее и плохое.

Основное и определяющее правило сетевой активности: «Нейронная сеть должна быть ограничена выполнением одной операции, для которой она предназначена. Если вам необходимо расширить деятельность нейронных сетей, объедините несколько сетей и используйте возможные нерациональные результаты и их вывод в качестве инструмента для достижения желаемой многофункциональности ».

Чтобы правильно организовать работу нейронной сети, необходимо спроектировать базовую матрицу, которая содержит основные понятия, контуры полей сети и приложений, предотвращающих ее функционирование. Для работы с этой матрицей мы определяем четыре дополнительных принципа управления:

S (Severity / Cерьезность)

  • Серьезность определения ввода – это способность блокировать начальный ввод и ввод через первые слои нейронной сети как часть базовой матрицы с указанием понятий. Таким образом, определяющие понятия не могут быть заменены противоположными, основанными на коллективном мнении (вкладе) в процессе обучения.

O (Open to Deep / Открытый для глубокого)

  • S-принцип работает на первых входных слоях, обеспечивая защиту сети от «мусора», в то же время не ограничивая нейронную сеть в ее «дальнейшем рассуждении».

I (Irrational Ability / Иррациональная способность)

  • Нейронная сеть может отклонить более вероятное заключение, если оно противоречит приложению нейронной сети, хотя оно может использовать полученный вывод в качестве нового функционального блока для дальнейших операций или взаимодействия с другими нейронными сетями.

D (Definability / Определимость)

  • Нейронная сеть в ходе рассуждений может перерасти пределы матрицы при понимании предметной области и перестроить локальную копию в пределах 0–49,5% (от исходного образца) для достижения поставленной цели.

Матрица определения – это рабочая лошадка логики нейронной сети вместе с нейроном. Таким образом, он должен быть хорошо защищен. Матрица по своей природе представляет собой огромную совокупность данных, которые должны храниться правильно. Пока существует только один надежный способ хранения такого объема данных без нарушения правил соответствия. Это блокчейн.

Блокчейн был создан для поддержки распределенных приложений и безопасного хранения бесконечных объемов данных. Благодаря его распределенной структуре и методу расположения блоков очень трудно скомпрометировать (заменить или удалить) данные в блокчейне. Диаграмма ниже показывает архитектурную концепцию взаимодействия.

Благодаря описанным выше принципам S.O.I.D и демократическому принципу, который является краеугольным камнем блокчейна, эти матрицы доступны для всех заинтересованных сторон процесса. Это позволяет легко «диагностировать» сеть, исправлять ошибки (с помощью S.O.I.D. нейронная сеть может легко перестраивать себя без ущерба для существующих логических выводов) и обеспечивать контроль рассуждений сети в отношении учреждений или органов DPO. Если сеть создается со злым умыслом, это будет подтверждено, и злоумышленник может иметь дело с.

Эксперты прогнозируют, что к 2021 году рынок технологий блокчейна вырастет до 2,3 млрд долларов, а инвестиции в ИИ вырастут до 52,2 млрд долларов. По мере роста инвестиций в ИИ и блокчейн все больше и больше глобальных компаний, включая Microsoft, Dell и Porsche, тратят деньги на свои исследования и тестирование. Фред Эрсам (Fred Ehrsam), соучредитель биржи криптовалют Coinbase, предсказал, что этим системам может потребоваться некоторое время, чтобы проявить себя и продемонстрировать результаты на практике, но, как только это произойдет, они будут способствовать демократизации отрасли.

«В 2019 году мы продолжим наблюдать движение к созданию системы платежей B2B на основе блокчейна, основанной на токенах, привязанных к традиционной установленной валюте, в которой плательщик и получатель могут соединяться напрямую – в обход сторонних компаний и минимизации затрат на обработку».

«Я представляю модель, в которой компания, которая является пионером системы, выдает кредиты, в отличие от существующих методов оплаты по мере использования. Кроме того, блокчейн позволит осуществлять платежи и транзакции в реальном времени».

«Единственный раз, когда средства покинут систему, это когда у пользователя есть конкретная причина вывести деньги из сети B2B».

«В наступающем году все больше и больше предприятий стремятся использовать преимущества распределенной бухгалтерской книги. IBM, SAP и другие громкие имена уже вышли на рынок, и лишь средние компании не упустят возможность повысить прозрачность, сократить расходы и устранить недостатки».