Models are open. Data is open. Recipe will be published soon. Download everything from 🤗 Thanks to the @hpai_bsc team, and the people of the open models community (@Alibaba_Qwen in this case), who made this possible.

Aloe Beta 🌱 includes DPO alignment on medical and general preferences,and strong red teaming to prevent dangerous outputs 😱 Working with HPC experts from @BSC_CNS to optimize the training and reduce its cost, now reaching 400 TFLOPS in the 70B version, 460 in the 8B.

The LLM Aloe family grows 🌱 We release two new versions, based on Qwen 2.5, fine tuned for healthcare. Qwen2.5-Aloe-Beta-7B and 72B. Using 2M instructions, from a variety of medical tasks (summarization, explanation, diagnosis, text classification, treatment recommendation..

Quantum talk by @albaclierta right now at SC'24!

Talking to an audience of HPC experts, I tried to: * Explain that DL is not all AI * Argue that DL is a non-empty bubble * Go over the limitations of autoregressive models * Reinforce the importance of better, non-saturated benchmarks for advancing the field

That was fun! 😁

Little pleasures of the a scientist life: Doing beautiful plots that visually convey a lot of information in an appealing way

Just read a paper which asks an LLM for its numerical confidence (from 1 to 10), for deciding if an answer to a user should be given or not. Anyone understanding the nature of LLMs should clearly see why that is a terrible idea.

Found this on Reddit. We should make stickers with it, and place them on every LLM released.

Scalability experiments on inference for our synthetic image detector, SuSy, give 512 images per sec with a single H100 card. 100 images per sec using 64 CPUs. It can be more efficient (WIP), but these numbers show this tech can be deployed now! https://t.co/gJHWpowgQW

Let's change the name of the Artificial Intelligence field to "Moving Goalpost science".

Lliçons d'IA: En l'aprenentatge automàtic, on el model aprèn d'un dataset, es desitjable que el model funcioni de manera consistent en un altre conjunt de dades que no ha vist mai però que es similar (extret de la mateixa distribució). Això s'anomena, capacitat de generalització.

Lliçons d'IA: En l'aprenentatge automàtic, on el model es responsable d'identificar patrons rellevants a les dades, la relació entre nombre d'exemples i la mida de la descripció d'aquests exemples (dimensionalitat) te un efecte cabdal sobre el comportament del model.

Do you remember Aloe 🌱? Our family is growing! Let us present the latest version of our healthcare large-language model: 𝗔𝗹𝗼𝗲-𝗕𝗲𝘁𝗮 ( https://t.co/9ae2Bquqhs), which achieves SOTA results in medical benchmarks, outperforming even private models.

8. Acceso a servicios médicos: Asegúrate de que los trabajadores tengan acceso a servicios médicos de emergencia en caso de que sea necesario. Esto incluye tener un plan de evacuación y conocer la ubicación de los hospitales y centros de salud más cercanos.

7. Supervisión y monitoreo: Asigna a un supervisor para monitorear constantemente la salud y el bienestar de los trabajadores. Este supervisor debe estar al tanto de los riesgos potenciales y saber cómo responder en caso de emergencia.

6. Vacunación y medicamentos: Asegúrate de que los trabajadores estén al día con las vacunas recomendadas, especialmente la del tétanos y la hepatitis A. Si alguno tiene una condición médica preexistente, como asma o alergias, asegúrate de que siga las instrucciones de su médico

5. Estrés y Fatiga: El trabajo en entornos de desastre puede ser física y emocionalmente exigente. Es importante reconocer los signos de estrés y fatiga, y asegurar que los trabajadores descansen, estiren y cambien de tarea para evitar la fatiga muscular.

4. Enfermedades Transmitidas por el Agua: En entornos con agua estancada hay riesgo de enfermedades transmitidas por el agua como la leptospirosis. Evitar el contacto con agua potencialmente contaminada. Si es inevitable, lavar la piel expuesta con agua y jabón lo antes posible

3. Lesiones y Cortes: El escombro y los objetos afilados pueden causar cortes y lesiones. Asegúrate de que cualquier herida se limpie y cubra inmediatamente. Las vacunas contra el tétanos deben estar al día, considerando el riesgo de exposición a objetos contaminados.