El CEO de Google habló del auge y los peligros de la inteligencia artificial

En una extensa entrevista, Sundar Pichai expresó tanto optimismo como preocupación por el estado de la carrera tecnológica

Por: Kevin Roose

En 2016, poco después de ser nombrado director ejecutivo de Google, Pichai declaró que Google era una empresa que da prioridad a la inteligencia artificial. Hizo grandes gastos para reunir a un equipo de investigadores de IA, cuyos avances impulsaron cambios en productos como Traductor de Google y Google Fotos. Incluso predijo que el impacto de la IA sería mayor que “la electricidad o el fuego”.

Así que tuvo que doler cuando por fin llegó el gran momento de la IA y Google no participó.

En su lugar, OpenAI —una empresa emergente de IA respaldada por Microsoft— acaparó la atención en noviembre con el lanzamiento de ChatGPT, una maravilla que escribe poemas, genera código de programación y termina los deberes. ChatGPT se convirtió en una sensación de la noche a la mañana, atrayendo a millones de usuarios y provocando un frenesí en Silicon Valley. Por primera vez en muchos años, Google parecía lento y vulnerable. (Tampoco fue de ayuda cuando Microsoft volvió a lanzar su motor de búsqueda Bing con tecnología de OpenAI, lo que puso fin de inmediato el papel de segundón que Bing desempeñó durante una década).

En una entrevista con el pódcast “Hard Fork” de The New York Times el jueves, su primera entrevista extensa desde el lanzamiento de ChatGPT, Pichai aseguró que estaba contento de que la IA estuviera teniendo un momento, incluso si Google no era la fuerza impulsora.

“Es un momento emocionante, independientemente de si lo hubiéramos hecho nosotros”, aseguró Pichai. “Obviamente, siempre deseas haberlo hecho”.

Han sido unos meses locos en Google. En diciembre, poco después del lanzamiento de ChatGPT, alguien de la dirección —Pichai jura que no fue él— declaró un “código rojo”, ordenando a los empleados que dedicaran tiempo y recursos a proyectos de IA. La empresa también estableció un proceso de revisión rápida para que los proyectos de IA salieran a la luz con mayor celeridad. Larry Page y Sergey Brin, cofundadores de Google, que durante años se mantuvieron al margen, se arremangaron para ayudar. La empresa tiene previsto lanzar una serie de nuevos productos de IA este año e incorporar la tecnología a muchos de los ya existentes. (Esta semana ha empezado a probar una nueva función de Gmail que permite a los usuarios redactar correos electrónicos generados por IA).

El jueves, Pichai expresó optimismo y preocupación por el estado de la contienda de la IA.

Hizo una valoración contundente de Bard, el competidor de ChatGPT que Google lanzó la semana pasada con críticas tibias: “Me siento como si hubiéramos tomado un Civic mejorado y lo hubiéramos puesto a competir con autos más potentes”. (También dio una noticia: Bard, que actualmente funciona con una versión de un modelo de lenguaje de IA llamado LaMDA, pronto se actualizará a un modelo más potente, conocido como PaLM).

Reaccionó así a una reciente carta abierta, firmada por casi 2.000 líderes tecnológicos e investigadores, que instaba a las empresas a pausar el desarrollo de potentes sistemas de IA durante al menos seis meses para evitar “profundos riesgos para la sociedad”. Pichai no está de acuerdo con todos los detalles de la carta —y no se comprometió a ralentizar los esfuerzos de Google en IA—, pero dijo que el mensaje de advertencia de la carta “merecía darse a conocer”.

Habló del “latigazo” que siente a menudo cuando se trata de la IA actualmente, pues algunas personas instan a empresas como Google a avanzar más rápido en IA, lanzar más productos y asumir mayores riesgos, mientras que otros los instan a ir más despacio y ser más cautelosos.

“Nos verán ser audaces y lanzar cosas”, prometió, “pero vamos a ser muy responsables en cómo lo hacemos”.

A continuación, otros aspectos destacados de las declaraciones de Pichai:

Sabíamos que cuando sacáramos Bard, queríamos ser cuidadosos… Así que no me sorprende que esa sea la reacción. Pero en cierto modo, me siento como si hubiéramos tomado un Civic mejor equipado y lo hubiéramos puesto a competir en una carrera con autos más potentes. Y lo que me sorprendió es lo bien que procesa muchas clases de consultas. Pero vamos a iterar con rapidez. Está claro que tenemos modelos más capaces. Muy pronto, tal vez cuando esto se ponga en marcha, actualizaremos Bard a algunos de nuestros modelos PaLM más capaces, que aportarán más capacidades, ya sea en razonamiento, codificación o responder mejor las preguntas matemáticas. Así que veremos los progresos a lo largo de la semana que viene.

Con OpenAI, teníamos mucho contexto. Hay gente increíblemente buena, algunos de los cuales habían estado antes en Google, así que conocíamos el calibre del equipo. Así que creo que el progreso de OpenAI no nos sorprendió. Creo que ChatGPT… ya sabes, hay que reconocerles el mérito de haber encontrado algo que encaja con el producto y el mercado. La recepción de los usuarios, creo, fue una agradable sorpresa, tal vez incluso para ellos, y para muchos de nosotros.

A veces me preocupa cuando la gente usa la palabra “contienda” y “ser los primeros”. He pensado en la IA durante mucho tiempo, y definitivamente estamos trabajando con una tecnología que va a ser increíblemente beneficiosa, pero que claramente tiene el potencial de causar daño de una manera profunda. Y por eso creo que es muy importante que todos seamos responsables a la hora de abordarla.

En la carta abierta, firmada por casi 2000 investigadores de IA y luminarias de la tecnología, incluyendo a Elon Musk, se instaba a las empresas a pausar el desarrollo de potentes sistemas de IA durante al menos seis meses.

En este ámbito, creo que es importante escuchar las preocupaciones. Hay mucha gente reflexiva detrás, incluso personas que llevan mucho tiempo pensando en la IA. Recuerdo haber hablado con Elon hace ocho años y, entonces, estaba muy preocupado por la seguridad de la IA. Creo que su preocupación ha sido constante. Y creo que hay motivos para preocuparse. Aunque puede que no esté de acuerdo con todo lo que dice y con los detalles de cómo lo harías, creo que vale la pena dar a conocer el espíritu [de la carta].

Por qué el activismo contra el cambio climático te hace albergar esperanzas sobre la IA:
Una de las cosas que me da esperanza sobre la IA, al igual que el cambio climático, es que afecta a todos. Con el tiempo, vivimos en un solo planeta, por lo que ambos son problemas que tienen características similares en el sentido de que no se puede conseguir unilateralmente la seguridad en la IA. Por definición, afecta a todos. Así que eso me dice que la voluntad colectiva llegará con el tiempo para abordar todo esto de forma responsable.

© The New York Times 2023