Embedded Files
Asesinato del director ejecutivo de UnitedHealthcare: el primer disparo en la guerra entre humanos y IA?
Asesinato del director ejecutivo de UnitedHealthcare: el primer disparo en la guerra entre humanos y IA?
Curado por Carlos Miranda Levy
El trágico asesinato del director ejecutivo de UnitedHealthcare, Brian Thompson, en Manhattan esta semana ha provocado debates sobre las crecientes tensiones entre los seres humanos y los sistemas de inteligencia artificial en la toma de decisiones en servicios de salud.(1)(4)
Brian Thompson, de 50 años, recibió un disparo frente al Hilton Midtown de Nueva York el miércoles por la mañana en lo que la policía describió como un "ataque descarado y dirigido"(1). Añadiendo una dimensión escalofriante al asesinato, el tirador dejó un mensaje, inscribiendo las palabras "negar", "defender" y "deponer" en los casquillos de bala encontrados en la escena del crimen.(8)
El incidente ha conmocionado a la industria de la salud y más allá, planteando preguntas sobre los posibles motivos detrás de este atroz crimen. Si bien las investigaciones aún están en curso, los hallazgos preliminares sugieren una conexión inquietante con el controvertido uso de inteligencia artificial por parte de la empresa en el procesamiento de reclamaciones.
Denegacion de reclamaciones de seguros: el motivo?
Denegacion de reclamaciones de seguros: el motivo?
La inscripción de las palabras "negar", "defender" y "deponer" en los casquillos de las balas ha evocado una fuerte asociación con la frase "Retrasar, negar, defender".(8) Esta frase, que se utiliza a menudo para criticar a las compañías de seguros por supuestamente rechazar reclamos válidos, ganó prominencia a través del libro de 2010 del profesor de derecho de Rutgers, Jay M. Feinman, "Delay, Deny, Defend: Why Insurance Companies Don't Pay Claims and What You Can Do About It". En consecuencia, ha surgido la especulación de que el asesinato podría ser un acto de represalia motivado por agravios percibidos contra el sistema de inteligencia artificial de UnitedHealthcare.
Controversia sobre el uso de IA para negar sistematicamente la cobertura de seguros
Controversia sobre el uso de IA para negar sistematicamente la cobertura de seguros
En 2023, se presentó una demanda colectiva contra UnitedHealthcare, alegando que el algoritmo de procesamiento de reclamos basado en inteligencia artificial de la compañía, conocido como nH Predict, negó sistemáticamente reclamos válidos, lo que afectó particularmente a los pacientes de edad avanzada inscritos en planes Medicare Advantage. (4)
La denuncia afirma que el algoritmo utilizado para las denegaciones de cobertura es "descaradamente inexacto", como lo demuestra el hecho de que aproximadamente el 90% de estas denegaciones se anulan tras una apelación ante jueces de derecho administrativo federal.(13)
Las familias de dos hombres fallecidos, a quienes supuestamente se les negó la atención médica aprobada, utilizaron esta tasa de anulación del 90% para argumentar que el sistema de inteligencia artificial tenía una tasa de error igualmente alta. Y que a pesar de ser consciente de esta alta tasa de error, UnitedHealthcare supuestamente continuó utilizando el sistema nH Predict. (3,4)
La demanda sostiene que la empresa se aprovechó del hecho de que sólo una pequeña fracción de los consumidores (0,2%) impugna las reclamaciones denegadas a través del proceso de apelación. Y que como resultado, muchos pacientes se vieron ante la difícil elección de pagar de su bolsillo la atención necesaria o renunciar al tratamiento por completo, ya que no pueden navegar por el complejo proceso de apelación.(3,4)
Esto provocó una indignación generalizada y generó serias preocupaciones sobre las implicaciones éticas del uso de la IA en el sector salud.
Si bien la demanda aún está en curso, UnitedHealthcare ha negado firmemente las acusaciones, tanto en procedimientos legales como a través de declaraciones públicas y privadas. La compañía afirma que la herramienta de predicción naviHealth no se utiliza para tomar decisiones de cobertura, sino para proporcionar información a proveedores, familias y cuidadores sobre posibles necesidades de atención durante y después de la estadía hospitalaria de un paciente. En un correo electrónico a Medical Economics, UnitedHealthcare reiteró que las decisiones de cobertura se basan únicamente en los criterios de cobertura de CMS y los términos específicos del plan del miembro. La empresa expresó confianza en su posición, sosteniendo que la demanda carece de fundamento y que se defenderá enérgicamente.(12)
Desafíos para el despliegue de la IA en la atención sanitaria
Desafíos para el despliegue de la IA en la atención sanitaria
La controversia en torno al sistema de IA pone de relieve una inquietante intersección entre la inteligencia artificial y el acceso a servicios de salud.
Este incidente plantea preguntas alarmantes sobre la relación futura entre los humanos y los sistemas de inteligencia artificial. A medida que la inteligencia artificial se vuelve más frecuente en la toma de decisiones sanitarias, la tensión entre la eficiencia algorítmica y el juicio humano se vuelve más pronunciada.(6) La trágica muerte de Thompson puede servir como un crudo recordatorio de las consecuencias en el mundo real cuando los sistemas de IA se implementan sin las salvaguardias o supervisión adecuadas.(4)
El amanecer de un nuevo conflicto?
El amanecer de un nuevo conflicto?
Si bien es demasiado pronto para vincular definitivamente el asesinato de Thompson con la controversia sobre la IA, el incidente ha encendido discusiones sobre el potencial de un conflicto más amplio entre los humanos y la IA. A medida que los sistemas de IA se integran cada vez más en diversos aspectos de nuestras vidas, existe una creciente preocupación por su posible impacto en el empleo, la privacidad e incluso la seguridad física.
Algunos expertos creen que el asesinato de Thompson podría ser un presagio de lo que vendrá, un sombrío recordatorio de las posibles consecuencias del desarrollo desenfrenado de la IA. Otros advierten contra sacar conclusiones prematuras, enfatizando la necesidad de una investigación exhaustiva antes de sacar conclusiones precipitadas.
El camino por delante
El camino por delante
Independientemente del motivo detrás del asesinato de Thompson, el incidente sirve como una llamada de atención. Destaca la necesidad urgente de una mayor transparencia y rendición de cuentas en el desarrollo y despliegue de sistemas de IA. A medida que avanzamos hacia un futuro cada vez más impulsado por la IA, es crucial garantizar que estas tecnologías se utilicen de manera responsable y ética, priorizando el bienestar humano por encima de todo.
El asesinato de Brian Thompson es una tragedia y nuestros pensamientos están con su familia y sus seres queridos. Mientras se desarrolla la investigación, es imperativo que reflexionemos sobre las implicaciones más amplias de este incidente y tomemos medidas proactivas para evitar que tales tragedias vuelvan a ocurrir. El futuro de la humanidad puede depender de ello.
Citas
Citas
(9) UnitedHealth demandada por uso de algoritmo en planes Medicare Advantage | ESTADÍSTICA | 3 de noviembre de 2023 | statnews.com/2023/11/14/unitedhealth-class-action-lawsuit-algorithm-medicare-advantage
(10) Significado potencial detrás de las palabras sobre el uso de municiones por parte de los directores ejecutivos: retrasar, negar, defender | Noticias AP | 5 de diciembre de 2024 | apnews.com/article/unitedhealthcare-ceo-shooting-delay-deny-defend-depose-ee73ceb19f361835c654f04a3b88c50c
(12) UnitedHealthcare utilizó IA para negar la cobertura del seguro médico a los pacientes, según una demanda | Noticias médicas | 16 de noviembre de 2023 | medicaleconomics.com/view/unitedhealthcare-used-ai-to-deny-patients-health-insurance-coverage-lawsuit-says
Page updated
Google Sites
Report abuse