В нескольких словах
Новость о проблемах с алгоритмом ИИ для диагностики рака кожи: низкая точность, игнорирование темнокожих пациентов и опасения экспертов.
Внедрение искусственного интеллекта (ИИ) в медицину, в частности, для диагностики рака кожи, вызывает вопросы из-за низких показателей точности и потенциальной дискриминации. Алгоритм Quantus Skin, разработанный для выявления меланомы, в каждом третьем случае дает неверный результат и имеет тенденцию игнорировать пациентов с темной кожей.
Власти Страны Басков (Испания) выделили 1,6 миллиона евро на внедрение Quantus Skin в медицинских центрах. Однако, согласно исследованию, алгоритм показывает низкую чувствительность (69%), пропуская 31% реальных случаев рака кожи. Эксперты, в том числе дерматологи, высказывают опасения по поводу точности системы, отмечая ее непригодность для скрининга.
Одной из ключевых проблем является предвзятость алгоритма. Quantus Skin был обучен на данных, в основном представляющих пациентов с белой кожей, что приводит к снижению точности диагностики у людей с более темным оттенком кожи. Это подчеркивает важность инклюзивных данных для обучения ИИ и необходимость учитывать различные этнические группы.
Критики указывают на необходимость повышения чувствительности алгоритмов, особенно для ранней диагностики, чтобы избежать фатальных последствий. Несмотря на заверения разработчиков, такие недостатки вызывают серьезные вопросы о целесообразности использования Quantus Skin в текущем виде.
В заключение, внедрение ИИ в здравоохранение требует тщательного анализа, включая оценку точности, предвзятости и потенциального влияния на различные группы населения. Проблемы, выявленные в работе Quantus Skin, подчеркивают важность разработки более надежных и инклюзивных алгоритмов для обеспечения справедливой и эффективной медицинской помощи.
