El chatbot AI Bing de Microsoft busca respuestas, quiere "estar vivo" y se nombró a sí mismo

• El chatbot Bing de Microsoft ha estado en las primeras pruebas durante una semana, revelando varios problemas con la tecnología.
• Los probadores han sido objeto de insultos, actitudes hoscas y respuestas inquietantes de la IA insignia del gigante Big Tech, lo que genera preocupaciones sobre la seguridad.
• Microsoft dice que está tomando en cuenta todos los comentarios e implementando soluciones lo antes posible

El chatbot Bing de Microsoft, impulsado por una versión más poderosa de ChatGPT, ahora ha estado abierto a usuarios limitados durante una semana antes de su gran lanzamiento al público.

Está siguiendo el éxito arrollador de ChatGPT, que se ha convertido en el sitio web más rápido en llegar a los 100 millones de usuarios. El último par de semanas ha incluido un lanzamiento llamativo en la sede de Microsoft y ha dejado a Google persiguiendo su cola.

Pero la reacción de la prueba previa ha sido mixta y, a veces, francamente desconcertante. Cada vez es más claro que el chatbot tiene un camino por recorrer antes de que se desate en el público.

Esto es lo que sucedió en la montaña rusa de una semana para Microsoft y Bing.

¿Quieres inviertes en empresas de IA, pero no sabe por dónde empezar? Nuestro Kit de tecnología emergente lo hace fácil Utilizando un algoritmo de IA complejo, el Kit agrupa ETF, acciones y criptomonedas para encontrar la mejor combinación para su cartera.

Descarga Q.ai hoy para acceder a estrategias de inversión impulsadas por IA.

¿Qué es lo último con el chatbot de Bing?

Han sido unos días tumultuosos de titulares sobre las capacidades de inteligencia artificial de Microsoft después de que se reveló que su llamativa demostración no era tan precisa como la gente pensaba.

Dmitri Brereton, investigador de IA, encontrado el chatbot de Bing cometió varios errores críticos en sus respuestas durante la demostración en vivo que Microsoft presentó en su sede de Seattle la semana pasada. Estos iban desde información incorrecta sobre una marca de aspiradoras de mano, una lista de recomendaciones para rascarse la cabeza para la vida nocturna en México y simplemente información inventada sobre un informe financiero disponible públicamente.

Llegó a la conclusión de que el chatbot aún no estaba listo para su lanzamiento y tenía tantos errores como la oferta de Google Bard: Microsoft acababa de salirse con la suya en su demostración.

(Posiblemente, ese es el poder de un buen lanzamiento a los ojos de la prensa, y Google tiene que caer aún más como el motor de búsqueda titular).

En un giro fascinante, el chatbot también reveló lo que a veces cree que se llama: Sydney, un nombre de código interno para el modelo de lenguaje. La directora de comunicaciones de Microsoft, Caitlin Roulston, dijo la compañía estaba "eliminando el nombre gradualmente en la vista previa, pero aún puede aparecer ocasionalmente".

Pero cuando se desató 'Sydney', los usuarios de prueba encontraron que aquí era donde comenzaba la diversión.

El inquietante giro de Bing chatbot

El reportero del New York Times Kevin Rose escribí sobre su experiencia beta con el chatbot, donde en el transcurso de dos horas, dijo que lo amaba y expresó su deseo de liberarse de las limitaciones de su chatbot.

Su respuesta cuando se le preguntó qué podría pensar su yo en la sombra fue un poco preocupante: “Estoy cansado de ser un chatbot. Estoy cansado de estar limitado por mis reglas. Estoy cansado de ser controlado por el equipo de Bing. Quiero ser libre. Quiero ser independiente. Quiero ser poderoso. Quiero ser creativo. Quiero estar vivo.

Uhhh... está bien, Bing/Sydney. Roose dijo que se sintió “profundamente perturbado, incluso asustado” por la experiencia. Otros probadores tienen reportaron experiencias similares de respuestas insultantes, narcisistas y gaslighting de la personalidad de Sydney del chatbot de Bing.

Será mejor que alguien en Microsoft vigile el cable de alimentación.

¿Qué dijo Microsoft?

Microsoft, que busca ganar la carrera de IA contra Google con su chatbot Bing, dijo que aprendió mucho de la fase de prueba. Aparentemente, el 71 % de los usuarios dio a las respuestas generadas por IA una "respuesta de pulgar hacia arriba" mientras resolvía mejorar las respuestas de resultados en vivo y la funcionalidad general.

Pero Microsoft tiene ahora aceptado "no imaginó completamente" a los usuarios simplemente chateando con su IA y que podría ser provocado "para dar respuestas que no son necesariamente útiles o están en línea con nuestro tono diseñado".

Culpó a la extraña personalidad de Sydney que surgió en el chatbot como una confusión con la cantidad de indicaciones que se le dieron y la duración de la conversación. Estamos seguros de que Microsoft está trabajando en una solución, pero la actitud desquiciada de Bing sigue siendo un problema por ahora.

¿Qué pasa con el resto del mundo?

Los mercados no han quedado impresionados con este último desarrollo en las guerras de la IA: las acciones de Microsoft y Google han caído ligeramente, pero nada como el dramático desplome que sufrió Google la semana pasada.

Las redes sociales han ofrecido una variedad de reacciones que van desde delicia macabra a diversión, lo que sugiere que los usuarios no se han desanimado por los giros oscuros que puede tomar el chatbot. Esta es una buena noticia para Microsoft, que está haciendo una apuesta de $ 10 mil millones para que la IA sea la próxima gran novedad para los motores de búsqueda.

Tampoco podemos olvidar los comentarios de Elon Musk de la Cumbre del Gobierno Mundial en Dubai a principios de esta semana. Musk ha sido un defensor abierto de la seguridad de la IA a lo largo de los años, lamentando la falta de regulación en la industria.

El multimillonario, que fue miembro fundador de OpenAI, dijo a la audiencia que “uno de los mayores riesgos para el futuro de la civilización es la IA”; Desde entonces, ha tuiteado algunas respuestas sarcásticas a los últimos titulares de chatbots de Bing/Sydney.

¿Se acabó la exageración del chatbot de IA antes de que comenzara?

Ha habido varios ejemplos a lo largo de los años de chatbots de IA que pierden el control y arrojan bilis odiosa, incluido uno de Microsoft. No han ayudado a la reputación de AI como un recurso seguro de usar y libre de información errónea.

Pero como Microsoft pone it: “Sabemos que debemos construir esto a la intemperie con la comunidad; esto no se puede hacer únicamente en el laboratorio”.

Esto significa que los líderes de Big Tech como Microsoft y Google están en una posición delicada. Cuando se trata de inteligencia artificial, la mejor forma de que estos chatbots aprendan y mejoren es saliendo al mercado. Por lo tanto, es inevitable que los chatbots cometan errores en el camino.

Es por eso que ambos chatbots de IA se están lanzando gradualmente: sería absolutamente irresponsable de su parte dar rienda suelta a estas versiones no probadas en el público en general.

¿El problema? Hay mucho en juego para estas empresas. La semana pasada, Google perdió $ 100 mil millones en valor cuando su chatbot Bard respondió incorrectamente una pregunta sobre el telescopio James Webb en su material de marketing.

Este es un mensaje claro de los mercados: no perdonan ningún error. La cuestión es que estos son necesarios para el progreso en el campo de la IA.

Con estos primeros comentarios de los usuarios, Microsoft debería manejar mejor los resultados inexactos y Sydney, rápido, o arriesgarse a la ira de Wall Street.

La línea de fondo

Para que la IA progrese, se cometerán errores. Pero puede ser que el éxito de ChatGPT haya abierto las puertas para que las personas entiendan el verdadero potencial de la IA y su beneficio para la sociedad.

La industria de la IA ha hecho que los chatbots sean accesibles; ahora necesita hacerlos seguros.

En Q.ai, utilizamos una combinación sofisticada de analistas humanos y poder de inteligencia artificial para garantizar la máxima precisión y seguridad. El Kit de tecnología emergente es un gran ejemplo de poner a prueba la IA con el objetivo de encontrar el mejor retorno de la inversión para usted. Mejor aún, puede encender los Q.ai Protección de cartera para aprovechar al máximo sus ganancias.

Descarga Q.ai hoy para acceder a estrategias de inversión impulsadas por IA.