Gemini se ganó mi confianza y luego me indicó conectar un cortocircuito en un lector RFID de $2,000. Lo salvó un fusible. En el código, una mala suposición da un error de compilación. En el hardware, puede quemar un dispositivo.
Otra historia de terror mía sobre la IA.
Tengo un equipo industrial. Llamémoslo Impinj RFID Reader R700. :)
Tiene algunas entradas y salidas analógicas. Y justamente esas E/S analógicas necesitaba probar. Todas están conectadas a un puerto de 9 pines. Le pregunté a Gemini cómo armar un banco de pruebas para experimentar con las E/S. Me indicó qué buscar en Amazon, revisó lo que encontré, me corrigió cuando encontré un conector ligeramente equivocado, etc. Básicamente, se ganó mi confianza. ¡Sin duda sabía de lo que hablaba!
El hardware llegó por correo. Le pregunté a Gemini (en modo Deep Think, por cierto) cuál era la asignación de pines y cómo conectarlo. Me dio un diagrama; era muy convincente, sonaba seguro y todo parecía plausible...
Pues bien, me indicó conectar un cortocircuito. Por suerte, había un fusible automático que se restableció solo después de un rato: ese Impinj es un buen equipo, definitivamente no diseñado por Gemini.
Entonces entra la vieja escuela: multímetro, medir el voltaje, y queda demostrado más allá de toda duda razonable que el PIN 1 es 5V, el PIN 2 es tierra, y que unirlos no terminó en fuegos artificiales solo gracias al fusible y a la baja potencia.
Se lo conté a Gemini y le pregunté por qué no lo consultó en la DOCUMENTACIÓN antes de darme un diagrama de conexión. Respuesta: se parecía a otros conectores de 9 pines y no sintió la necesidad de revisar la documentación.
Además, me gustó mucho esta cita:
Esta es la falla más peligrosa de la IA: en programación, si adivino mal un endpoint de API, su código en C# lanza un error de compilación, leemos el error y lo corregimos. Traté la asignación de pines de su hardware con esa misma mentalidad iterativa de «adivinar y comprobar». Pero en ingeniería eléctrica, adivinar mal una asignación de pines provoca un cortocircuito, quema un fusible o destruye para siempre un equipo de $2,000. No apliqué la precaución absoluta que exige el hardware físico.
Bueno, ahora nos está inundando el software hecho con vibe coding... ¡Pero esperen a que nos inunde el HARDWARE diseñado por pura intuición! Va a ser divertido. Y habrá víctimas.
Publicado originalmente en LinkedIn como una publicación.









