Регулярно требуется преобразовать какой-либо текст в максимально совместимый текст для URL, имени файла, имени объекта в каком-то софте и тд. Требования совместимости простые: в тексте должны быть только допустимые символы. Обычно это a-z, 0-9 и "_" или "-". То есть, только прописные буквы латинского алфавита и цифры (как пример).
Допустим, нам нужно название статьи в блоге преобразовать в slug для добавления его в URL этой статьи. Как это лучше всего сделать?
В Django по умолчанию есть готовая функция slugify для таких случаев.
Но я её никогда не использую. Почему? Потому что её недостаточно!
Приведём пример
>>> from django.utils.text import slugify
>>> slugify('This is a Title')
'this-is-a-title'
Пока всё отлично
>>> slugify('This is a "Title!"')
'this-is-a-title'
Спец символы удалились, всё хорошо.
>>> slugify('Это заголовок статьи')
''
Вот и приехали 😢. Если текст не английский то буквы просто игнорируются. Можно это поправить
>>> slugify('Это заголовок статьи', allow_unicode=True)
'это-заголовок-статьи'
Но тогда мы не вписываемся в условие. У нас появилась кириллица в тексте.
Так как я часто пишу сайты для русскоязычных пользователей эта проблема весьма актуальна. Я не использую стандартную функцию и всегда пишу свою.
Оригинал я не беру в расчёт и пишу полностью свою функцию. И так, по порядку:
🔸1. Исходный текст:
>>> text = 'Мой заголовок №10 😁!'
Взял специально посложней со специальными символами.
🔸2. Транслит
Необходимо сделать транслит всех символов в латиницу. Здесь очень выручает библиотека unidecode. Помимо простого транслита кириллицы в латиницу она умеет преобразовывать спец символы и иероглифы в текстовые аналоги.
from unidecode import unidecode
>>> unidecode("Ñ Σ ® µ ¶ ¼ 月 山")
'N S (r) u P 1/4 Yue Shan'
Очень крутая библиотека, советую👍
В нашем случае получаем такое преобразование:
>>> text = unidecode(text)
>>> print(text)
'Moi zagolovok No. 10 !'
Отличный транслит. Смайл просто удалился, хотя я ждал что-то вроде :). Ну и ладно, всë равно невалидные символы.
А еще наш код уже поддерживает любой язык, будь то хинди или корейский.
🔸4. Фильтр символов
Unidecode не занимается фильтрацией по недопустимым символам. Это мы делаем в следующем шаге через regex. Просто заменим все символы на "_" если они вне указанного диапазона.
>>> text = re.sub(r'[^a-zA-Z0-9]+', '_', text)
>>> print(text)
'Moi_zagolovok_No_10_'
Символ "+" в паттерне выручает когда несколько недопустимых символов идут рядом. Все они заменяются на один символ "_".
🔸5. Slugify
Осталось удалить лишние символы по краям и сделать нижний регистр
>>> text = text.strip('_').lower()
>>> print(text)
'moi_zagolovok_no_10'
Получаем отличный slug! 😎
🌎 Полный код в виде функции.
______________
PS. Проверку что в строке остался хоть один допустимый символ я бы вынес в отдельную функцию.
#libs#tricks#django
Fratelli d'Italia presenta la proposta di legge che chiede di istituire il 17 marzo come festa nazionale dell'unità d'Italia. Giovanni #Donzelli: "Speriamo che il 17 marzo 2024 si possa già festeggiare"
@UltimoraPolitics
Giovanni #Donzelli (#FdI): "Le scuse? No. Andrò volentieri al giuri’ d’onore per chiedere al Pd di chiarire le sue parole. Mi auguro che la sinistra italiana che sta balbettando su Cospito chieda scusa agli italiani"
@UltimoraPolitics
❗️ Caso #Donzelli, la Procura di Roma apre un fascicolo di indagine. Si ipotizza reato di rivelazione e utilizzazione di segreto d'ufficio, per aver "reso pubbliche intercettazioni ambientali del Dap tra esponenti della 'ndrangheta e della camorra con Alfredo #Cospito"
@UltimoraPolitics
#Italia
Il deputato di #FdI|ECR Giovanni #Donzelli attacca l'eurodeputata Ilaria #Salis (ind. area #AVS|LEFT|G/EFA):
“Da ore grida al pericolo per la Democrazia per un banale controllo di polizia. Ma chi c’era con lei nella camera d’albergo? Leggo da Il Giornale che nella camera d’albergo era in compagnia di Ivan Bonnin, suo assistente al Parlamento Europeo, che è un pregiudicato arrestato e condannato nel 2015 per violenza privata e interruzioni di pubblico servizio aggravato. Ora, la sinistra si ritiene così una casta da ritenere intoccabili pure pregiudicati se condividono la camera d’albergo con qualcuno di loro? Io nel dubbio sto depositando un’interrogazione parlamentare per sapere tutti i precedenti di questo accompagnatore di Ilaria Salis pagato con i soldi pubblici”.
@Osservatorioitaliano
Caso #Donzelli, Debora #Serracchiani: "Dispiace che il presidente #Meloni faccia finta di niente perché i fatti sono gravi e se non sente il bisogno di intervenire siamo costretti a pensare che abbia tollerato o addirittura approvato quanto avvenuto"
@UltimoraPolitics
Caso #Donzelli, il presidente della Camera Lorenzo #Fontana accoglie la richiesta del #PD e istituisce il Giurì d'onore per fare chiarezza su quanto detto dal deputato di #FdI
@UltimoraPolitics
Debora #Serracchiani (#PD): "Parole di #Donzelli gravissime, hanno contenuto e carattere di rilevanza penale. Visto che Donzelli ha importanti ruoli istituzionali, chiediamo alla presidente Meloni se la pensa allo stesso modo"
@UltimoraPolitics
Caso #Donzelli, Carlo #Nordio sul documento citato alla #Camera dal deputato #FdI: "La natura del documento non rileva e disvela contenuti sottoposti al segreto investigativo o rientranti nella disciplina degli atti classificati"
@UltimoraPolitics