Најди сличен содржај

Изворен канал @pythonotes · Post #242 · 7 мај

Теперь запакуем строку. В этом случае следует передавать тип данных bytes. >>> struct.pack('=s', b'a') b'a' Для записи слова следует указывать количество символов. >>> struct.pack('=5s', b'hello') b'hello' Кстати, запакованный вид соответствует исходному тексту. Всё верно, символ есть в таблице ASCII, то есть его код попадает в диапазон 0-127, он может быть записан одним байтом и имеет визуальное представление. А вот что будет если добавить символ вне ASCII >>> struct.pack(f'=s', b'ё') SyntaxError: bytes can only contain ASCII literal characters. Ошибка возникла еще на этапе создания объекта bytes, который не может содержать такой символ. Поэтому надо кодировать эти байты из строки. >>> enc = 'ёжик'.encode('utf-8') >>> struct.pack(f'={len(enc)}s', enc) b'\xd1\x91\xd0\xb6\xd0\xb8\xd0\xba' Заметьте, длина такой строки в байтах отличается от исходной длины, так как символы вне ASCII записываются двумя байтами и более. Поэтому здесь формат создаём на лету, используя получившуюся длину как каунтер токена. #libs#basic

Hashtags

#libs #basic

Резултати

Пронајдени 1 слични објави

Пребарај: #tinyllama

当前筛选 #tinyllama清除筛选

AI & Law

@ai_and_law · Post #108 · 10.09.2023 г., 08:33

Најди слично Погледај

🌟 AI Sunday Wonders: Meet TinyLlama, the 550MB AI Model Trained on 3 Trillion Tokens Hello, everyone! In the world of AI, smaller models are gaining immense popularity due to their efficiency on edge devices with limited memory and processing power. Enter TinyLlama, a groundbreaking project led by a research assistant at Singapore University of Technology and Design. Despite its tiny 550MB size, TinyLlama is pre-trained on a massive three trillion tokens. This compact model holds great promise for various applications, including real-time machine translation without the need for an internet connection. The project aims to complete the training of this 1.1 billion Llama model in just 90 days, utilizing 16 A100-40G GPUs. You can track its progress and loss metrics in real-time. TinyLlama shares the same architecture and tokenizer as Meta's Llama 2, making it compatible with open-source projects built on Llama. TinyLlama joins the league of smaller language models like Pythia-1b and MPT-1b, offering developers efficient options for creating cutting-edge AI applications. #TinyLlama#AIModel#AIResearch#MachineLearning#AIInnovation#TinyButMighty

Hashtags

#tinyllama #aimodel #airesearch #machinelearning #aiinnovation #tinybutmighty