La IA que se aproxima

Te quedan /5 artículos.Regístrese para obtener una cuenta gratuita o inicie sesión.

"La gente espera una ola" de innovación empresarial de IA, dijo Vinod Khosla, cofundador de Sun Microsystems y fundador y presidente de Khosla Ventures. "Lo que nos va a golpear es un tsunami".

zhuweiyi49/imágenes falsas

Cuando Brian Halligan y Dharmesh Shah eran estudiantes en el Instituto de Tecnología de Massachusetts a principios de la década de 2000, se les dio 60 minutos para presentarle a uno de sus profesores su idea de puesta en marcha: una plataforma de software que ayudaría a las empresas a comercializar y vender de manera más efectiva. Pero el profesor fue "locuaz" y habló durante 59 de los 60 minutos, dijo Halligan en una reunión exclusiva centrada en el negocio de la inteligencia artificial celebrada en el MIT la semana pasada. En el minuto restante, Halligan y Shah dieron su discurso y quedaron encantados cuando el profesor accedió a proporcionar una financiación sustancial para su idea.

Pero los incipientes fundadores de la nueva empresa todavía necesitaban más dinero para hacer realidad su visión. Entonces, recurrieron a sus compañeros de clase del MIT, que no eran ricos, aunque sus padres sí lo eran, según Halligan.

"Recaudamos $900,000 de los padres de nuestros compañeros de clase", dijo Halligan mientras la audiencia estallaba en carcajadas. "Y necesitábamos clientes, y nueve de nuestros primeros 10 clientes eran graduados [del MIT] Sloan. Y necesitábamos algunos empleados, y nueve de nuestros primeros 10 empleados eran graduados de Sloan". En la actualidad, su empresa, HubSpot, posee aproximadamente un tercio de la participación de mercado en soluciones de automatización de marketing.

La reunión del MIT atrajo a una masa crítica de capitalistas de riesgo junto con los fundadores de nuevas empresas, todos centrados en la inteligencia artificial. (Muchos de estos últimos estaban afiliados al MIT). La oportunidad fue "como atrapar peces en un barril", dijo John Werner, el enérgico anfitrión del evento, director gerente de Link Ventures, una firma de capital de riesgo y exjefe de innovación. y nuevas empresas en Camera Culture Group del MIT Media Lab.

La facultad, el personal y los administradores deben prepararse para un "tsunami" de IA que se avecina en sectores comerciales que incluyen la educación, según los líderes académicos y de la industria repletos de estrellas que hablaron en la reunión del MIT. El director ejecutivo y cofundador de OpenAI, Sam Altman, el cofundador de Sun Microsystems, Vinod Khosla, y Sandy Pentland, colíder de las iniciativas Big Data y Personal Data del Foro Económico Mundial, entre otros, compartieron información sobre oportunidades de mercado, mitigación de riesgos y toma de decisiones. relacionados con ChatGPT y otras herramientas de IA generativa.

Pero algunos empresarios emergentes que asistieron compartieron preocupaciones que diferían, en algunos casos, del establecimiento de la gran tecnología, incluido el deseo expresado de un mayor énfasis en la privacidad y la inclusión.

Se espera que el mercado de IA en la educación crezca de aproximadamente $ 2 mil millones en 2022 a más de $ 25 mil millones en 2030, con América del Norte representando la mayor parte.

Se espera que la inteligencia artificial comience a superar a los humanos en la mayoría de las tareas cognitivas de este siglo, según los expertos. Como tal, el Future of Life Institute publicó recientemente una carta en la que pedía a los laboratorios de IA que detuvieran inmediatamente durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4. La carta fue firmada por el ganador del Premio Turing y "padrino de la IA" Yoshua Bengio, el investigador líder en IA Gary Marcus, el cofundador de Apple Steve Wozniak y otras 26,000 personas. Algunos criticaron al instituto por aceptar fondos de la Fundación Musk (Elon Musk también firmó la carta) y la carta por priorizar escenarios apocalípticos hipotéticos sobre las preocupaciones actuales relacionadas con la IA, como el sesgo racista y sexista.

Durante la reunión del MIT, Altman dijo en una llamada de Zoom que la carta "faltaba la mayoría de los matices técnicos sobre dónde necesitamos la pausa".

"Creo que moverse con precaución y un rigor cada vez mayor por cuestiones de seguridad es realmente importante", continuó Altman. "La carta, no creo, sea la forma óptima de abordarlo".

Altman también sugirió que, en el futuro, es posible que los modelos de lenguaje más grandes no siempre sean mejores. Esto tomó por sorpresa a muchos asistentes, dados los recientes recuentos de parámetros del modelo de lenguaje grande, una medida de la cantidad de conexiones entre neuronas artificiales. Por ejemplo, el bot de chat GPT-2, anunciado en 2019, se basó en 1500 millones de parámetros para responder preguntas en lenguaje natural. Luego, GPT-3, anunciado en 2020, tenía la asombrosa cantidad de 175 mil millones de parámetros. (ChatGPT funciona con GPT-3.5). Aunque OpenAI no reveló la cantidad de parámetros de GPT-4 cuando entró en la conciencia pública este año, algunos, incluidos muchos en la reunión del MIT, especularon que el número supera los 100 billones.

"Creo que estamos al final de la era en la que serán estos modelos gigantes, y los mejoraremos de otras maneras", dijo Altman.

D'Agostino para Inside Higher Ed

Los siguientes extractos condensados ​​y editados de la reunión del MIT sugieren que el sector empresarial espera liderar la transformación de la IA, que muchos líderes de la industria temen perderse, incluso cuando reconocen la posibilidad de una falla catastrófica, y que los humanos y las máquinas definen "confianza" de manera diferente .

Henrick Landgren, socio de EQT Ventures, quien anteriormente creó el equipo de análisis y contribuyó a todas las iniciativas importantes en Spotify.

Durante los años que he estado en la industria de la tecnología, he visto muchas burbujas ir y venir... Hemos visto surgir grandes desarrollos específicos en los sectores [educación, cuidado de la salud y medio ambiente], pero no hemos Todavía se ve la primavera de estos sectores… Los empresarios liderarán esta transformación. Los emprendedores son la fuerza motriz para impulsar la innovación.

Sam Altman, director ejecutivo y cofundador de OpenAI

Tal vez el recuento de parámetros aumente con seguridad. Pero esto me recuerda mucho a la carrera de gigahercios en chips en las décadas de 1990 y 2000, donde todos intentaban señalar un gran número.

Es importante que mantengamos el enfoque en aumentar rápidamente la capacidad... No estamos aquí para masturbarnos con el conteo de parámetros.

Delphine Nain Zurkiya, socia sénior de McKinsey

Hasta hace cinco años, era realmente el CIO, si es que existía, quien se despertaba por la mañana y pensaba en [IA]. Pero el cronograma que teníamos mientras los ayudábamos con la estrategia era un cronograma de 10 años. Tuvimos tres años para pensarlo, tres años para experimentar y tres años para ver si podía escalarlo.

Esto ha cambiado por completo. FOMO [miedo a perderse algo] es la palabra correcta. Muchos de nuestros ejecutivos acuden a nosotros para preguntarnos: "¿Esto es real?" Ya no es [solo] una conversación de CIO.

Lan Guan, director general sénior de Accenture

El tema principal que escucho de la sala de juntas es esta línea de tiempo acelerada: la urgencia de que todos mis clientes comiencen a embarcarse en su viaje de IA generativa. ChatGPT hizo un gran trabajo catalizando todo... Estamos en estas conversaciones todos los días... He estado consultando durante más de 20 años. Este es un tipo de urgencia que nunca antes había visto.

El dinero está ahí... Este es el mejor momento para las empresas emergentes. No necesito citar el número de capitalistas de riesgo que saltan a este espacio. Probablemente estoy teniendo 20 conversaciones todos los días con nuevas empresas.

Este es el movimiento de liberación de datos... Este es un cambio de paradigma completo... Ahora todos mis clientes, organizaciones de nivel empresarial, tienen casi la obligación de tener sus datos listos, de traer sus datos propietarios al modelo de lenguaje grande... así que el poder de los modelos se pueden activar.

Stephen Wolfram, fundador y director ejecutivo de Wolfram Research y creador de Mathematica, Wolfram|Alpha y Wolfram Language

ChatGPT es bastante decente para hacer analogías, para notar que algo aquí es como algo allá. También soy bastante bueno haciendo grandes analogías, por ejemplo, sobre la relación entre la teoría de la gravitación y las metamatemáticas.

Una de las cosas que muy bien puede suceder es que, a medida que las cosas similares a ChatGPT reduzcan aún más el conocimiento que hemos publicado en el mundo, notará más y más este tipo de analogías. Notará que el patrón de esto es algo así como el patrón de aquello.

Ya se notaron algunas cosas que nos daría vergüenza no haber notado antes… Sabemos que hay una gramática sintáctica del lenguaje, que juntamos sustantivos y verbos y otras partes del discurso. Y sabemos que hay una lógica que define cómo se puede hacer significativo el lenguaje. Pero hay más Hay otra capa de cómo se juntan las oraciones, que plausiblemente podría ser significativa, y descubrió eso. Deberíamos haberlo hecho, pero no lo hicimos.

Dos cosas sucederán en la educación. Una es que el conjunto de personas que podrán utilizar la computación será mucho mayor. Entonces, aquellos en el departamento de literatura podrán hacer literatura computacional. Esa es la buena noticia.

La mala noticia es toda la gente que está enseñando programación de bajo nivel… ¿Deberías aprender a programar? Probablemente no. Deberías aprender a pensar en las cosas computacionalmente. Debe aprender a formular cosas para que exista la posibilidad de que pueda realizar un enfoque computacional sistemático.

Alexander Amini, fundador, Themis AI

"Confianza" es un término cargado que a la gente le cuesta entender. ¿Qué significa que un modelo de IA sea confiable, especialmente desde el punto de vista de las empresas empresariales?

En la práctica, tener un modelo 100 por ciento confiable está muy lejos, incluso con los avances actuales. El noventa por ciento, en promedio, es lo que estamos viendo en el laboratorio. Lo que [debería significar] confiable es esta idea de que, si el modelo dice que tiene una precisión del 90 por ciento en el laboratorio, entonces, si lo implementa, nueve de cada 10, con suerte, serán precisos.

En la práctica, esta no es en absoluto la forma en que funcionan los modelos de IA. Si dice un 90 por ciento de precisión en el laboratorio, lo que realmente significa es que probablemente tendrá una precisión del 99 al 100 por ciento la mayor parte del tiempo, pero luego una precisión del 0 por ciento en algunas fallas catastróficas que ocurren repentinamente... Suceden muy rápidamente. Son difíciles de predecir. Ese es el verdadero desafío detrás de la IA, que estos errores y fallas que vienen con ella son muy inesperados.

¿Cómo podemos construir modelos de IA y tomar modelos de IA existentes que ya están en implementación y hacerlos conscientes de los riesgos? Eso significa, transformarlos para que puedan entender y transmitirnos como humanos cuando van a fallar, incluso antes de que fallen.

Los errores son aceptables si podemos ser advertidos antes. Pero ese es un gran desafío para las empresas diseñar modelos de esa manera, porque las tecnologías de inteligencia artificial de hoy en día no se comportan así. Son muy opacos. No nos dicen cuándo van a fallar antes de fallar.

Vaikkunth Mugunthan, director ejecutivo de DynamoFL, una empresa que ofrece IA que cumple con las normas

Lo más importante en este momento es la privacidad.

Dave Blundin, emprendedor en serie y cofundador y socio gerente de Link Ventures

Soy optimista. La mayoría de los distópicos piensan que esta cosa de alguna manera se volverá consciente y se convertirá en Terminator para nosotros. Estas cosas no hacen eso. Son increíblemente poderosos en formas en que los humanos no son poderosos. No están tratando de convertirse en humanos. Están haciendo lo que se les indica que hagan.

Marc Tarpenning, cofundador de Tesla y socio de riesgo en Spero Ventures

En informática, llegar a ese lugar del 90 por ciento [para máquinas autónomas] es relativamente fácil en retrospectiva. Es ese último 10 por ciento el que es un asesino.

[Hace años, la gente hablaba de] toda esa maquinaria publicitaria de Silicon Valley. "¿Internet? Es estúpido. Nadie realmente lo va a usar. Es solo humo y espejos de Silicon Valley". Pero, por supuesto, ese fue el comienzo de Internet cambiando todo lo que hacemos.

Estamos en un momento similar en este momento con la IA... pero todavía no estoy muy interesado en que la IA se haga cargo por completo.

Vinod Khosla, cofundador de Sun Microsystems y fundador y presidente de Khosla Ventures

La gente espera una ola [de innovación empresarial de IA]. Lo que nos va a golpear es un tsunami.

[En respuesta a la pregunta, "¿Hemos tenido un tsunami en su vida?"] No en el negocio. La transición más grande que hemos visto fue en el empleo agrícola, que pasó del 50 por ciento del empleo en EE. UU. en el año 1900 a un pequeño porcentaje en la década de 1970... Tuvimos varias generaciones para ajustar y reubicar a la gente en las ciudades. Esto será mucho más rápido. Nos costará mucho adaptarnos.

Sandy Pentland, colíder de las iniciativas de big data y datos personales del Foro Económico Mundial, profesora de Artes y Ciencias de los Medios de Toshiba y profesora de tecnología de la información en la Escuela de Administración Sloan del MIT, directora del Laboratorio de Dinámica Humana del MIT y del Laboratorio de Medios del MIT Entrepreneurship Program y uno de los siete científicos de datos más poderosos del mundo según Forbes.

Si intenta hacer algo [con la IA] que no sea aumentar a los humanos, está asumiendo una responsabilidad... Tiene que estar preparado para una demanda. He trabajado con muchos reguladores de todo el mundo y vienen por usted.

Si está ayudando a las personas... y deja esa decisión humana, la responsabilidad, en manos de una persona, estará bien... Lo que tiene que hacer es seguir la pista... Cuando alguien viene por usted, y lo hará, usted puede decir, "esto es lo que hicimos, y afectó a las mujeres de esta manera, a los negros de esta manera y a los niños de esta manera". Tienes que estar al tanto de eso porque tendrás que defenderte.

En un correo electrónico posterior al evento, Werner compartió los comentarios que recibió de los asistentes, que incluían: "Estás creando AI Nation y Cambridge es la capital". "La alineación fue más que fantástica". "Evento asombroso. ¡Los asistentes estaban entusiasmados!" "Definitivamente cerca del nivel de los Oscar". "Hay una buena probabilidad de que recordaré mi vida como era antes y después del Día de la Pi inversa, 2023 [una broma matemática que se refiere a la fecha de la reunión del 13 de abril]". "Simplemente extraordinario y un gran privilegio estar allí". "Mi cerebro nunca volverá a ser el mismo". "Muy agradecido. "FANTÁSTICO". "Los muchachos que buscaban contratar estaban emocionados de hablar con buenos candidatos y obtuvieron excelentes pistas". "Este evento está en la vía rápida para convertirse en uno de los eventos de IA más importantes de la historia". "Aprendí que ninguno de nosotros está siendo lo suficientemente ambicioso".

Pero las primeras personas con las que habló Inside Higher Ed en la fiesta posterior a la reunión ofrecieron algunas opiniones contrastantes.

Anónimo, fundador de una empresa emergente de IA enfocada en ayudar a las empresas a aprovechar los beneficios de la IA, quien solicitó confidencialidad porque le preocupaba que los comentarios negativos sobre la reunión pudieran poner en peligro las oportunidades de financiamiento de los capitalistas de riesgo que asistieron.

Había algunas personas [en la reunión del MIT] que hablaban de privacidad, pero no muchas. Algunos trataron de mencionarlo pero fueron derribados, o hubo una respuesta vaga.

No me preocupa un mundo distópico o Terminator en los próximos cinco o diez años. Me preocupa lo difícil que es para la gente confiar en algo en Internet. Estamos viendo los efectos de esto ahora mismo.

Mercy Chado, investigadora asociada enfocada en genómica y bioinformática en el laboratorio de terapias de la Cystic Fibrosis Foundation

Hubo un montón de, "Tenemos esta nueva tecnología, y va a cambiar el mundo". Pero no hablaron lo suficiente sobre la privacidad.

Vincent McPhillip, fundador y director ejecutivo de Knomad, una empresa emergente enfocada en ayudar a las personas a encontrar un trabajo flexible y significativo.

La conferencia fue excelente... Muchos de nosotros estamos experimentando este [momento con IA] individualmente detrás de nuestras computadoras, y la conferencia nos permitió reunirnos y compartir este momento juntos.

Como persona de color, es muy difícil para mí no ver a otras personas negras y marrones en la audiencia. Hay algunos aquí, pero no los suficientes, particularmente cuando observa el impacto que esta tecnología probablemente tendrá en nuestra comunidad. Necesitamos esforzarnos más para asegurarnos de tener una representación más diversa para que esta próxima ola no se convierta en una que nos deje atrás.

Hay una conferencia paralela a esta. Es una organización local que apoya a los profesionales negros en el área de Boston. Comenzó ayer, y estaré allí mañana. Cuando me inscribí en esa conferencia, ni siquiera había un campo de tecnología para elegir. Luego vengo [a la conferencia del MIT] y estoy nadando en IA. Es una dicotomía tan extraña.

Ayer me quejaba con mi hermano de que realmente espero que llegue un día en que no tenga que seguir a caballo entre estos dos mundos, literalmente yendo y viniendo entre ellos. Ese es el anhelo que siento cuando miro hacia arriba y alrededor en habitaciones como esta.

Algunas universidades están hablando en voz baja sobre cómo responderán si los jueces, como se esperaba, rechazan la acción afirmativa.

Kartik Chandra ofrece un mensaje a la Clase de 2023: sus palabras importan, ahora más que nunca.

La tecnología promete ayudar a los estudiantes con desventajas a desarrollar las habilidades necesarias para el éxito.

Los académicos que buscan un respiro de la manguera contra incendios de la información de IA y las tomas calientes lanzan talleres de verano.