Una máquina puede ejecutar una orden sin entender su sentido
Hay una diferencia que considero fundamental entre hacer algo bien y saber por qué debe hacerse. Una máquina puede calcular una ruta, organizar una fábrica, clasificar información o ejecutar una tarea con enorme precisión, pero esa capacidad no contiene por sí sola una finalidad. El propósito nace antes de la tecnología. Somos nosotros quienes decidimos qué problema merece atención, qué resultado buscamos y qué límites no queremos cruzar. Por eso creo que el verdadero poder tecnológico no está únicamente en construir sistemas cada vez más capaces, sino en formular correctamente la pregunta que esos sistemas deberán intentar resolver.
La primera decisión importante ocurre antes de escribir una sola línea de código
Muchas veces se analiza una tecnología cuando ya está construida, pero para mí las decisiones más importantes aparecen mucho antes. Cuando desarrollo una herramienta, primero existe una intención: qué quiero mejorar, a quién quiero ayudar, qué información necesito y qué consecuencias puede generar el sistema. Esa fase inicial determina gran parte de todo lo que ocurre después. Un mismo conocimiento técnico puede utilizarse para ahorrar agua, mejorar una empresa, vigilar personas o desarrollar armamento. La capacidad técnica puede ser idéntica; el propósito cambia completamente su significado.
Lo técnicamente óptimo no siempre es lo humanamente correcto
Un sistema puede encontrar una solución matemáticamente eficiente y, sin embargo, producir una consecuencia que no queramos aceptar. Imaginemos una ciudad que busca reducir costes públicos. Un modelo podría concluir que determinados servicios deben concentrarse únicamente en las zonas más pobladas porque allí resultan más eficientes. Desde una perspectiva puramente numérica podría tener sentido, pero dejaría peor atendidas a comunidades pequeñas o alejadas. La tecnología no conoce por sí misma conceptos como dignidad, solidaridad, oportunidad o justicia. Esas prioridades deben incorporarse desde el diseño y ser defendidas por personas capaces de comprender algo que una tabla de resultados no siempre muestra.
El conocimiento local seguirá teniendo un valor enorme
También creo que cometeríamos un error si pensamos que un centro de datos de inteligencia puede sustituir completamente la experiencia de quienes conocen un territorio, una profesión o una comunidad. Podemos acumular enormes cantidades de información, pero siempre existirán contextos que requieren interpretación humana. Un agricultor conoce comportamientos de su tierra que quizá nunca fueron registrados; un médico observa elementos que una base de datos no contiene; una comunidad conoce necesidades que desde una oficina situada a miles de kilómetros pueden parecer irrelevantes. La tecnología puede organizar conocimiento, pero necesita escuchar al mundo real para no convertirse en una estructura técnicamente brillante y prácticamente inútil.
También debemos enseñar a las máquinas cuándo no actuar
Una de las áreas que considero más importantes para el futuro será desarrollar sistemas capaces no solamente de ejecutar acciones, sino de reconocer cuándo deben detenerse y solicitar intervención humana. No todo proceso necesita automatizarse completamente. Determinadas decisiones requieren consentimiento, contexto o responsabilidad directa. Para mí, una tecnología verdaderamente avanzada no será aquella que elimine siempre a la persona del proceso, sino aquella que sepa distinguir entre lo que puede resolver sola y aquello que debe devolver al criterio humano. Crear límites también es una forma de inteligencia.
La tecnología amplifica nuestras decisiones
Al final, veo la tecnología como un multiplicador. Puede amplificar nuestra capacidad para construir, curar, educar, producir y organizar, pero también puede multiplicar nuestros errores si partimos de una mala decisión. Por eso el factor humano no desaparecerá cuanto más avance la inteligencia artificial; probablemente será todavía más importante. Cuanto mayor sea nuestra capacidad tecnológica, mayor deberá ser nuestra responsabilidad para decidir cómo utilizarla. Las máquinas pueden ayudarnos a responder millones de preguntas, pero hay una que seguirá perteneciendo a las personas: qué clase de mundo queremos construir con todo lo que ahora somos capaces de hacer.
