#347 – Mis problemas con la IA generativa

Nahuai lleva meses intentando formarse una opinión sobre la IA generativa y este es el primer intento de ordenar sus ideas.

¿Qué tal la semana?

Semana esther

Tareas varias para clientes, vulnerabilidades y malwares y una migración complicada…. vamos, lo de siempre.

Semana Nahuai

• Investigando cómo implementar Apple y Google Pay en RCP
• Investigando cómo sincronizar usuarios de RCP con Discord
• Creando items del menú con enlace dinámico
• Sustituir Cursor y Claude por Zed o OpenCode, para usar LLMs de código abierto exclusivamente.
  • En la medida de lo posible en local (Ollama – LM Studio)
  • Sino OpenCode Go o Ollama Cloud (modelos de código abierto ejecutados en la nube).
• Investigando los agentes de código abierto como OpenCode y Pi (como alternativa a Claude Code).

Contenido Nahuai

Tema de la semana:

Marketing engañoso

• El nombre inteligencia artificial no le hace justicia
• Los LLMs son modelos de predicción
  • No piensan, predicen
  • No alucinan, cometen errores de predicción
• La mentira de la AGI
• Hype desmedido
  • Promovido por los principales actores

Concentración de poder

• Controlado por las big tech
• Mentalidad Silicon Valley:
  • Cuanto más grande mejor (LLMs vs SLMs)
    • Mucha información pero de calidad cuestionable
  • Muévete rápido y rompe cosas vs reflexión
  • Modelo de negocio insostenible
    • Uso subvencionado para ganar cuota de mercado y hacerse imprescindibles
• Burbuja económica
  • Inversión circular entre las principales empresas

Falta de ética

• Modelos creados en el robo sistemático de contenido sin pagar a los autores
  • Modelo extractivista no sostenible (no revierte de vuelta)
• Impacto ambiental y social
  • Uso intensivo de electricidad y agua
    • Falta de transparencia
    • Muchas empresas han relajado o abandonado sus planes para reducir las emisiones de CO2
  • Construcción de centros de datos en zonas con estrés hídrico
• Falta de privacidad por defecto
  • Todos los datos viajan a servidores externos
  • La mayoría usa los datos para entrenar sus modelos
  • Uso de datos para emplazar publicidad

Diseñados para enganchar

• Chute de dopamina y pensado para engagement
  • Diseñado para que sea difícil saber parar/descansar
  • Tremendamente complacientes
• Promueven el «sendentarismo cognitivo»
• Ilusión de mejora de productividad
• Ilusión de estar hablando con un humano (los antropomorfizamos)
  • Les damos roles para los que no están diseñados
  • No son psicólogos pero tampoco hay controles/limitaciones para que se usen como tal

Otros efectos secundarios

• Excusa para despedir empleados
  • Reemplazo de personas para incrementar ingresos
• Promueve la brecha digital
• Refuerzo del individualismo
  • Promueve la creación de herramientas personalizadas para uso propio
  • Devalúa las herramientas compartidas
• Incremento de la deuda tecnológica
  • Es imposible revisar todo el código generado

Acciones

Usar la IA generativa de forma responsable. Solo cuando es realmente necesaria y con modelos de código abierto, en local, en la medida de lo posible.

Novedades

Cal.com deja de ser de código abierto por “culpa” de la IA, aunque comparten el código de cal.diy:

https://cal.com/es/blog/cal-com-goes-closed-source-why