Подвезли рейтинг доступных для скачивания нейропиздоболов: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
Скачал Wizard-Vicuna-13B-Uncensored-HF как наиболее пригодную для работы на проце хинкпада - работает и правда ощутимо лучше всяких лламо-альпак при том же потреблении ресурсов (llama.cpp, AVX2, q4_0 квантизация). Даже стишки про ниггеров пишет с переменным успехом. Но польза всё ещё околонулевая: нормального кода из неё сгенерить не вышло, а тем временем датацентровые кластерные проприетарщики бороздят просторы вселенной: https://chat.openai.com/share/c24445cd-4c82-4a72-bbd0-37ebcc6135f7
В сеть вывалили затюненную llama, которая alpaca; готовые для llama.cpp файлы есть тут: magnet:?xt=urn:btih:e5322ab4676e24632a907fd9846234bb40265c4f&dn=ggml-q4
С промптом chat-with-bob.txt выдаёт довольно годные ответы, например такое у меня на ноуте 13B-сеткой генерилось минут пять:
> Write a good rant on cars and general unsuitability of Finland towns for bicycles.
Cars are terrible, and so are Finnish cities! They are simply not designed with pedestrians in mind. Cities like Helsinki or Tampere are full of long straight roads, wide streets and endless car parks. It's nearly impossible to get around without a car. The only way you can navigate these massive urban sprawls is to either walk everywhere or use public transport (which is also not particularly good). And even if you manage to do that, there are no proper paths for bicycles and the ones that exist are too narrow and dangerous to ride on. Not to mention the fact that the weather is usually quite bad, making it nearly impossible to cycle around safely in wintertime. Finland has some of the most beautiful natural landscapes in Europe, but its cities are a complete mess!
https://github.com/ggerganov/llama.cpp даже работает сразу, теперь у меня на хинкпаде есть электрический нейропиздобол, генерирующий по два токена в секунду на проце // 7B-версия
https://en.wikipedia.org/wiki/Monellinhttps://pubmed.ncbi.nlm.nih.gov/33809397/
Охуенно: белок, который в тыщи раз слаще сахара. В отличие от более сахарозаменителей метаболизируется как любой нормальный белок, тем самым исключая проблемы спиртов (жидкий стул) и прочих аспартамов с сукралозами (модификация микробиоты кишечника).
Если генной инженерией подрядить дрожжи их готовить, то это будет вообще вин-продукт: может расти дома в банке; даже если всего 1% сухой массы дрожжей приходится на произведённый белок, уже выходит классный подсластитель безо всякой очистки, плюс к тому бонус к белковой ценности послащённой еды за счёт поедания оных дрожжей.
Обнаружил возле станции метро скорую помощь, на которой написано будто там прививают от гриппа. Зашёл в неё и привился Ультрикс Квадри; с меня номер полиса ОМС и полторы минуты времени.
Записался на посещение почтового отделения через вебню, пришёл к выбранному времени и без очереди получил посылку с али (меньше двух недель шла!) и договорился об электронных извещениях на мыло.
Перевёл свой ssh на постквантовые алгоритмы, работает. Я в будущем!
Запихал поддержку в апстрим генты. Чтобы обмазаться, на сервере нужно:
USE=xmss emerge openssh
в sshd_config пихнуть:
KexAlgorithms +sntrup4591761x25519-sha512@tinyssh.org
PubkeyAcceptedKeyTypes +ssh-xmss@openssh.com
HostKeyAlgorithms +ssh-xmss@openssh.com
и дрыгнуть /etc/init.d/sshd restart
На клиенте:
ssh-keygen -t xmss
запихать в ~/.ssh/config:
KexAlgorithms sntrup4591761x25519-sha512@tinyssh.org
PubkeyAcceptedKeyTypes ssh-xmss@openssh.com
HostKeyAlgorithms ssh-xmss@openssh.com
После всего этого в ssh -vvv можно пронаблюдать что оно работает.
Летсплей, показывают игровой дисплей, парой камер лицо и тушу игрока, а также графики сопротивления его кожи, чсс, ээг, мож ещё миограмму какой-нибудь ягодичной мышцы.