«Gobernar la inteligencia artificial antes de que gobierne los riesgos».
*Cuestiono la visión generalista que reduce el riesgo a una simple multiplicación de probabilidad por impacto sin bajarlo a la práctica.*
*El Reglamento Europeo de Inteligencia Artificial, es la conjunción entre la probabilidad de causar un perjuicio y la gravedad de dicho perjuicio.
*Rechazo de forma tajante atribuir personería jurídica o responsabilidad legal a los sistemas de IA*
*Para imputar responsabilidad se exige comprender cómo se actúa; la IA simplemente opera o ejecuta, pero carece de comprensión. Dotarla de estatus de sujeto de derecho equivaldría a dejar a la sociedad sometida a algoritmos que actúan como «inimputables» o «dementes».*
*La inteligencia artificial es un software avanzado o herramienta técnica, comparable analógicamente con un procesador de texto (Word) o un ábaco. Si se comete un delito o daño (como una calumnia en un texto o un error de cálculo), la demanda y la responsabilidad recaen en las personas naturales o jurídicas involucradas: quien diseña, desarrolla, despliega o supervisa el sistema*
*La forma prudente de legislar no consiste en regular la tecnología abstracta, sino sus casos concretos de aplicación mediante un esquema gradual de riesgos:
• Usos prohibidos: Aquellos que vulneran bienes superiores o derechos fundamentales.
• Alto riesgo: Sistemas que demandan auditoría, documentación y requisitos de supervisión rigurosos.
• Propósito general y específico: Diferenciación según el alcance operativo de la herramienta.
*Es peligroso reducir el debate a un problema meramente instrumental o tecnológico. Es indispensable trascender a la reflexión filosófica y formularse preguntas sobre el impacto social, político y humano para alcanzar una convivencia armónica y evitar escenarios distópicos.*
*Es un grave riesgo social la adopción e integración acelerada de IA «sin seguridad». Los modelos solo tienen capacidades dentro de su marco específico de entrenamiento y carecen de facultades fuera de él, lo que vuelve peligrosa la confianza ciega en su desempeño*
*La IA tiene propensión a alucinar. Mientras que en áreas críticas como la medicina el proceso científico previo mitiga el peligro a un nivel residual mediante protocolos estrictos, en el uso cotidiano las personas caen en el sesgo de automatización, creyendo ciegamente en cualquier resultado emitido por la pantalla sin someterlo a validación crítica. *
*Ética y la relación humano-IA – Cito al filósofo Luciano Floridi para concebir la relación entre la tecnología y la humanidad como un «matrimonio» colaborativo. La pregunta de fondo no es qué va a solucionar la máquina por sí misma, sino qué problemas humanos decidimos resolver nosotros a través de ella bajo un marco ético.**
*Alerto sobre el despliegue militar de IA y drones autónomos en confrontaciones. El principal peligro ético-jurídico radica en la tentación de utilizar el concepto de «error algorítmico» para justificar ataques a blancos civiles (como escuelas u hospitales) presentándolos como daños colaterales sin autoría ni culpa humana*