OAGI y la ética de la IA: eficiencia, desarrollo y supervisión humana

OAGI (Ontogenetic Architecture of General Intelligence) propone explorar la inteligencia artificial general como un proceso de desarrollo por etapas, en lugar de depender únicamente de modelos cada vez mayores y de más datos. La idea pone el foco en cómo se adquieren capacidades, cómo se evalúan los cambios y qué mecanismos pueden limitar una autonomía excesiva. Sigue siendo una propuesta que necesita validación experimental.

La perspectiva ética planteada en la entrada coincide con un debate más amplio: una IA potente no debería valorarse solo por sus resultados, sino también por el consumo de recursos, la robustez, la transparencia y el control que conservan las personas. Los modelos pueden simular conversaciones convincentes, pero eso no demuestra que posean experiencia humana ni que deban recibir la misma confianza que un profesional responsable.

Un sistema capaz de adaptarse o modificar componentes necesita reglas de desarrollo y supervisión definidas desde el principio. Entre las medidas posibles están las pruebas independientes, los límites de permisos, los registros auditables, los criterios de parada y una revisión humana de acciones de alto impacto. La seguridad no puede añadirse únicamente al final del proceso.

La visión de OAGI subraya una cuestión importante aunque su arquitectura aún deba demostrarse: los criterios humanos y sociales son parte del diseño, no un añadido decorativo. Cualquier progreso hacia sistemas más generales tendrá que acreditar no solo capacidad técnica, sino también mecanismos fiables para mantenerlos dentro de límites comprensibles y gobernables.