La abogada especialista en derecho informático, Cecilia Melki, advirtió sobre los riesgos existenciales de los nuevos modelos tecnológicos y analizó los vacíos legales del nuevo Código Procesal Civil y Comercial provincial respecto a la prueba digital.
La Inteligencia Artificial avanza a un ritmo vertiginoso, planteando desafíos éticos a nivel global y obligando a los sistemas judiciales locales a modernizarse de manera apresurada. En diálogo con Rivadavia Neuquén, Cecilia Melki, abogada especialista en derecho informático y posgraduada en la Universidad de Buenos Aires (UBA), analizó las recientes renuncias de investigadores en las principales empresas tecnológicas del mundo y advirtió sobre la falta de protocolos probatorios en el nuevo Código Procesal Civil y Comercial de Neuquén.
La amenaza de los modelos autónomos
El debate internacional se encendió tras las advertencias de investigadores como Jacob Coxon, vinculados a desarrollos de ciberseguridad en gigantes como Anthropic y OpenAI, quienes alertaron que la carrera tecnológica sin límites podría amenazar la supervivencia humana en menos de una década. Melki explicó que los tiempos en esta industria son engañosos: “las investigaciones sobre la IA se proyectan y evolucionan de una manera aceleradísima que resulta casi imposible de comprender para nosotros”.
El verdadero punto de quiebre es el desarrollo de la Inteligencia Artificial Generativa Hipersuficiente (AGI). Se trata de sistemas que pueden hackearse y reescribir sus propios códigos sin intervención humana. “Vamos a tener un porcentaje de probabilidades muy alto de que esas IAs tengan posibilidades de hacer cosas tales como extinguir a la humanidad si la humanidad les resulta molesta”, sentenció la especialista.
Además, precisó que la mayoría de los desarrollos actuales, basados en redes neuronales profundas, operan como sistemas de “caja negra”, donde “hay un proceso dentro del funcionamiento del modelo que ni siquiera sus creadores alcanzan a comprender cómo funciona”. En este sentido, subrayó que “un modelo de inteligencia artificial general, eso es la AGI, que puede mejorarse a sí misma, que puede trabajar sobre sí misma independientemente de la actividad humana, es el peligro real”.
Ética, control social y falta de empatía
Al introducir un nuevo bloque de declaraciones a la radio, Melki retomó las críticas de intelectuales como Noam Chomsky, quien cuestiona que estas herramientas sean diseñadas exclusivamente bajo una lógica técnica, sin una mirada ética u ontológica. “Los ingenieros tienen una meta, hacer que una herramienta o una estructura funcione. Si la estructura o la herramienta funciona, va bien”, analizó.
En este escenario de competencia tecnológica, comparado por la mesa radial con la Guerra Fría, la abogada señaló que las máquinas carecen de la dimensión humana inhibitoria. Aunque las inteligencias autoconscientes logren simular emociones, no pueden sentirlas ni aplicar empatía en sus decisiones, convirtiéndose en un riesgo latente si priorizan únicamente la eficiencia de sus cálculos estadísticos.
Vacíos legales en la justicia neuquina
El impacto de la digitalización ya es una realidad ineludible en la región. La reciente reforma del Código Procesal Civil y Comercial de la provincia de Neuquén introdujo el expediente íntegramente digital y la figura de la prueba informática o electrónica. Sin embargo, Melki expresó su profunda preocupación por la falta de reglamentación técnica en el fuero civil y laboral, a diferencia de lo que ocurre en el fuero penal.
Si bien el código menciona la nueva prueba, no establece protocolos estandarizados para su extracción, recolección, preservación y ofrecimiento. La abogada advirtió que presentar una simple captura de pantalla impresa ya no tiene validez legal y puede dejar a los clientes en estado de indefensión procesal. “Sobre cualquier archivo digital que yo tengo, tengo que simbólicamente poder dar vuelta el archivo y ver qué hay atrás, que quiere decir ver algo que se llama metadato”, ejemplificó.
Para abordar esta problemática urgente y evitar la pérdida de litigios por malas praxis digitales, Melki confirmó que brindará una capacitación gratuita dirigida a abogados sobre prueba informática en la Universidad Nacional del Comahue (UNCo).
