Exprésate aquí

90322 Nachrichten, 3011 Seiten:  1; 3009 30103011 ↖ Zurück zur Themenliste

~msgScore~: +161

~SurveyHheader~: ¿Cómo te sientes hoy? Puedes elegir varias y cambiar según el día.

¿Cómo te sientes hoy? Puedes elegir varias y cambiar según el día.

380 ~SurveyVotes~
~SurveyMulti1~
~SurveyNominative0~
~SurveyClosing~ Jan 1 2037 23:59:00

90301. sol-dorado,

Banco a Facundo.

~msgScore~: +0

90302. la-mandarina,

eso es, existe el auto perdonarce y alguien que dijo que la terapia no sirbe, déjenme desirles que si sirve. facundo-elargentino: si uno no se quiere, o si a tenido un fracaso en su vida: y no quiere serrar esas eridas y dar un nuevo...: hace 1 minutos

~msgScore~: +0

90303. facundo-elargentino,

yo siempre le agradesco a diós por la vida que el cada día me dá: y si me cuesta alcanzar cosas que abeces son difíciles, yo no pierdo las esperanzas, y sigo adelante: asta concretar la meta que me e predispuesto a lograr

~msgScore~: +0

Zuletzt geändert von facundo-elargentino, ~today~ 18:15

90304. Kazhak,

En unos años te estudiarán junto a Marco Aurelio, Facundo ;)

~msgScore~: +0

90305. Aurorita-Dulce-y-Bonita,

por ahí dicen que si te quejas mucho, no llegas a viejo. te morirás de un infarto o un paro.

yo ya lo tengo asumido. quien más lo asume? Pd. soy quejona pero no lo ando expresando por aquí

quien más reconoce que no llegara a viejo?

~msgScore~: +0

90306. Def-Leppard,

bueno, es una definición, como se quiera decir, pero nunca voy a estar de acuerdo. tu no te jodes tu propia vida a no ser que seas absolutamente gilipoyas, y conozco muchos que lo son. pero lamentablemente todos, o casi todos aquí tenemos una problemática que nos deja bien dispuestos a ser blanco de ciertos comentarios, discrimianciones, principalmente lavoaraleso a mí al menos son las que más me joden, debilidades, necesidades y demás, que pueden hacer que más de un día, la vida te parezca n gran montón de mierda de tricicloplotus. quejarse y pa mí que es el deporte más relajante y en el que más mierda sacas. no vale para nada,pero con que lo sepas tu... suficiente. quejaos, pero con arte, por favor. Los que dicen que la vida es una mierda: ellos son las mierdas que hacen mierda s

~msgScore~: +0

Zuletzt geändert von Def-Leppard, ~today~ 18:53

90307. ChuySpace,

faltan pocos minutos para que pasen 2 cosas.

  1. para tomar mis pastillas para la epilepsia.
  2. para poner mi radio y explotar los parlantes escuchando ¡OID MORTALES! el grito sagrado. puro rock argento

~msgScore~: +0

90308. Kazhak,

Pegarle a un saco también te deja relajado, sobretodo cuando alguien te va guiando el entrenamiento hasta dejarte sin poder mover un músculo. Luego duermes como un bebé.

~msgScore~: +0

90309. Ridfel,

Editado.

~msgScore~: +0

Zuletzt geändert von Ridfel, ~less4h~

90310. Def-Leppard,

me sumo, ese ejercicio es agotador, pero muy satisfactorio

~msgScore~: +0

90311. Rayo,

como correr modelos de inteligencia artificial de forma local

Bienvenides todes a este su tutorial de ollama y modelos de IA en local.
esta vez no quiero usar IIA para escribir, entonces tendrán esa sensación humana, aunque comienzo a dudarlo porque ciertos
individuos ya me han recalcado que tengo la estructura gramatical de una, aunque, lastimosamente para mi, no es así, aún.
Pero vamos al lío.

Ollama

¿Qué es ollama? la amigable vaquita es un programa software libre que nos permite ejecutar llm (long languaje model) o algunos otros tipos de redes neuronales de forma local. Es decir, sin enviar datos a servidores externos y sin necesidad de internet.

¿Qué necesitamos?

Iremos desde el requisito más indispensable, al menos. Los opcionales o los que tengan una nota, estarán marcados con un (?).

  • Tener instalado ollama para su sistema operativo, se descarga desde. https://ollama.com/download
  • Una targeta gráfica dedicada (?): Es lo más recomendable para el funcionamiento de los modelos.
  • 12 gb de ram: Esto es casi indispensable y aún más si no se cuenta con una tarjeta gráfica dedicada.
  • una CPU de mínimo 4 núcleos: Lo mismo, se recomienda que sean mínimo 8 hilos porque en caso de no tener gráfica dedicada tirará de la ram y de la CPU para hacer inferencia.

¿cómo se hace?

Ya que tenemos ollama descargado, iniciamos su instalación.
no voy a explicar como se instala, si quieres usar modelos en local asumiremos que conoces lo básico de tu sistema operativo y lo más indispensable de la línea de comandos.
luego de que termine de instalarse ollama se desaparecerá la ventana y tendremos el ícono de ollama en la bandeja del sistema.
Ahora sí

¿Cómo descargar modelos?

en la web de ollama tentendremos los modelos open source disponibles.
antes de iniciar a descargar, vamos a hablar de modelos.
¿Qué son esas cosas de 1b, 7b y todo eso?
Son los parámetros de entrenamiento. la b al lado del número quiere decir billones de parámetros. 1b es un billón 7b son 7 billones y así susesibamente.
esto quiere decir que a más número de parámetros más potencia de cómputo requiere.
Vamos a hacer la instalación de un modelo chiquito de google, gema.

  1. vamos al cuadro de búsqueda en ollama.com
  2. buscamos gema
  3. clicleamos en el primer resultado de encabezado nivel 2 con el nombre del modelo a descargar.
  4. con la b buscamos el botón que nos dejará elejir la versión de parámetros, en este caso 7b.
  5. Daremos enter, y escape. luego buscaremos el que nuestra máquina soporte, en mi caso, el de 2b y pulsaremos enter.
  6. con la e buscaremos el cuadro de texto que nos dará la instrucción de ollama, que será algo así:
  7. ollama run >nombre del modelo:numero de paŕ́ametros b>
    Debajo tendremos un botón sin etiqueta y daremos enter en el para copiarlo al portapapeles.
  8. abriremos un cmd o powershell
  9. pegaremos el comando, en mi caso: ollama run gemma:2b y daremos enter

Nota: si les llega a dar error, recarguen el servidor de ollama con el comando:
ollama server
Si no funciona, abran el menú inicio, busquen ollama y pulsen enter; luego cierren y abran el terminal y corran el comando de nuevo.
Debería a iniciar la descarga.

Activando el modelo

Luego de que termine la descarga pueden pasar 2 cosas.

  1. que entren a la terminal del modelo, que se pueden dar cuenta por los > que les aparezcan.
  2. que no entren y vuelvan a la terminal normal de su sistema operativo.
  3. Para el segundo caso, prueben correr el comando ollama run de nuevo y si bien le les va, abrirá la terminal.
    Si no... el modelo iniciará la descarga otra vez.
    Esto no se por que ocurra, pero ocurre. me pasó ya 2 veces y es mejor dejar nota.

interactuando con el modelo

Si ya estamos en la terminal, no hace falta más que empezar a interactuar con el modelo.
>>> hola! quién eres?
Soy un modelo artificial, creado por Google. Soy un chat bot que puede ayudarte con una variedad de tareas, como
responder preguntas, generar contenido, y proporcionar información.

>>> Send a message (/? for help)
¡Listo! tendremos un modelo de inteligencia artificial corriendo en nuestro sistema.

comandos útiles

  • Borar un modelo: ollama rm <nombre del modelo>
  • Listar los modelos descargados: ollama list
  • correr un modelo: ollama run <nombre del modelo>
  • Cerrar el chat con el modelo: ctr + d
  • Cortar el flujo de respuesta: ctrl + c
  • borrar los datos y la conversación hasta ese momento. /clear
  • Setear variables o información: /set <parámetro>
  • ver la ayuda de ollama: /help
notas importantes.
  1. Si no tienes más de 8gb de ram sin tarjeta dedicada, no pierdas el tiempo, no te funcionará.
  2. Si tiras de pura ram para ejecutar los modelos, se paciente, tardarán algo en responder, sobre todo los de grandes mayores a 7b.
  3. No esperes una experiencia fluída si no tienes los recursos de cómputo necesarios.
  4. No esperes que sean de la misma calidad de los modelos comerciales, ni que estén adaptados a un chatbot común y corriente. Tendrás que familiarizarte con prompt ingeniéerin mucho más profundo porque su comprendimiento de lenguaje natural no está tan pulido, esto para los modelos chiquitos como llama 1b, r1 1b, etc.
  5. dame más uno, no seas hijo de puta.

~msgScore~: +4

Zuletzt geändert von Rayo, ~less4h~

90312. Sandokannn,

Entendí "cómo coger modelos de inteligencia artificial", estoy totalmente roto por dentro.
Pero no seas boludo, creá un hilo para esto, acá se te perderá enseguida.

~msgScore~: +0

90313. facundo-elargentino,

medió risa cuando dijo todes

~msgScore~: +0

90314. Rayo,

cierto, lo haré.

~msgScore~: +0

90315. Def-Leppard,

me encanta esto de bajarte todo en un archivito y sacar la pista que quieres. luego traduces, pegas, y todo cae en su sitio como si de un buen polvo se tratara. más trabajos así, por favor... hasta bajaría el precio... no, mentira, que la gente está muy acostumbrada a que se lo den todito en la mano y sin soltar un duro. cada día los conceptos de las webs con las pelis puestas para los cegatos me parecen un invento más horrible, siendo este mundo un mundo donde todos podemos ganar un poquito de dinero y dedicarla a nuestros caprichos, y si, los videntes pagan por muchos servicios, porqué nosotros no?

~msgScore~: +0

90316. Reva,

Vayan a privacidad de WhatsApp y no permitan que les agreguen a grupos, hay un tremendo fallo de seguridad.

~msgScore~: +0

90317. Ridfel,

Qué fallo o q pasó.

~msgScore~: +0

90318. marcoML,

totalmente.
facundo-elargentino: sos mala onda: jaj: hace aproximadamente 3 horas 18 de 30

~msgScore~: +0

90319. melanie,

Silencio tu.

~msgScore~: +0

90320. Def-Leppard,

estoy empezando a estar hasta la poya de la gente que tiene que decirte como y donde puedes estar con tu perro. hoy una señora que mi perro le meaba el coche. a la segunda vez, el retaco de metro sesenta a bajado muy chula a defcirme que si mi perro se volvía a mear en su coche, iba a lamar a la madera. esto agarrándome de la camiseta, y pegando mucho su cara a la mía para que oliera bien su pozo maloliente. mi respuesta a sido apartarla, y decirle que si volvía a amenazar a mi perro, íbamos a tener un problema, y no con la poli. la tercera vez, dicha señora no se ha contentado con agarrarme a mí, sino que ha hido a por ury de frente. lo ha agarrao de la correay a empezao a tirar para sacarlo de donde el pobre animal estaba meando. si era su coche, no lo se. francamente me importa una mierda. cuando le levanto la voz a la señora, aparece el marido y el hijo mayor, a decirme que esas no eran maneras de hablar a su madre, y que la próxima vez a lo mejor me tenían que enseñar educación. comento el c aso con mis padres, y el que a ac tuado mal, soy yo. que como le hablo así a una señora. y os voy a decir algo chicos. el respeto es una cosa que por supuesto, todo el mundo merece. pero cuando se degradan a barriobajeros gilipoyas, el respeto pasa a ser algho subjetivo. cuando tienen que venir tres a amenazarte... cual es la solución? cargo el revólver de 22 y lo llevo siempre en el bolsillo? mejor navajas y cuchillos? la pli ya ha venido y man dicho si se quien es. como si se cual es su coche, se lo señalo y me dicen que ese coche es propiedad de una señora de casi 70 años. bueno, aquí he perdido la pista de la investigación policial, no se que pasará, pero sabiendo como es este país, no pasará nada. yo ya llevo mi fair sikes en la riñonera.

~msgScore~: +0

90321. Angel_R05,

Hola, estoy feliz porque hoy voy a tocar con el pega pega (pegaso). Si son de mx chance y lo topen, si no pues lo dudo mucho jajajaja pero igual quería decirlo

~msgScore~: +0

90322. Nimriel,

No, ni idea, pero si te hace feliz, a darle duro.

~msgScore~: +0

90322 Nachrichten, 3011 Seiten:  1; 3009 30103011 ↖ Zurück zur Themenliste

Auf das Thema antworten

Sie müssen angemeldet sein, um posten zu können

Passwort vergessen? Benutzerkonto erstellen