Регулярно требуется преобразовать какой-либо текст в максимально совместимый текст для URL, имени файла, имени объекта в каком-то софте и тд. Требования совместимости простые: в тексте должны быть только допустимые символы. Обычно это a-z, 0-9 и "_" или "-". То есть, только прописные буквы латинского алфавита и цифры (как пример).
Допустим, нам нужно название статьи в блоге преобразовать в slug для добавления его в URL этой статьи. Как это лучше всего сделать?
В Django по умолчанию есть готовая функция slugify для таких случаев.
Но я её никогда не использую. Почему? Потому что её недостаточно!
Приведём пример
>>> from django.utils.text import slugify
>>> slugify('This is a Title')
'this-is-a-title'
Пока всё отлично
>>> slugify('This is a "Title!"')
'this-is-a-title'
Спец символы удалились, всё хорошо.
>>> slugify('Это заголовок статьи')
''
Вот и приехали 😢. Если текст не английский то буквы просто игнорируются. Можно это поправить
>>> slugify('Это заголовок статьи', allow_unicode=True)
'это-заголовок-статьи'
Но тогда мы не вписываемся в условие. У нас появилась кириллица в тексте.
Так как я часто пишу сайты для русскоязычных пользователей эта проблема весьма актуальна. Я не использую стандартную функцию и всегда пишу свою.
Оригинал я не беру в расчёт и пишу полностью свою функцию. И так, по порядку:
🔸1. Исходный текст:
>>> text = 'Мой заголовок №10 😁!'
Взял специально посложней со специальными символами.
🔸2. Транслит
Необходимо сделать транслит всех символов в латиницу. Здесь очень выручает библиотека unidecode. Помимо простого транслита кириллицы в латиницу она умеет преобразовывать спец символы и иероглифы в текстовые аналоги.
from unidecode import unidecode
>>> unidecode("Ñ Σ ® µ ¶ ¼ 月 山")
'N S (r) u P 1/4 Yue Shan'
Очень крутая библиотека, советую👍
В нашем случае получаем такое преобразование:
>>> text = unidecode(text)
>>> print(text)
'Moi zagolovok No. 10 !'
Отличный транслит. Смайл просто удалился, хотя я ждал что-то вроде :). Ну и ладно, всë равно невалидные символы.
А еще наш код уже поддерживает любой язык, будь то хинди или корейский.
🔸4. Фильтр символов
Unidecode не занимается фильтрацией по недопустимым символам. Это мы делаем в следующем шаге через regex. Просто заменим все символы на "_" если они вне указанного диапазона.
>>> text = re.sub(r'[^a-zA-Z0-9]+', '_', text)
>>> print(text)
'Moi_zagolovok_No_10_'
Символ "+" в паттерне выручает когда несколько недопустимых символов идут рядом. Все они заменяются на один символ "_".
🔸5. Slugify
Осталось удалить лишние символы по краям и сделать нижний регистр
>>> text = text.strip('_').lower()
>>> print(text)
'moi_zagolovok_no_10'
Получаем отличный slug! 😎
🌎 Полный код в виде функции.
______________
PS. Проверку что в строке остался хоть один допустимый символ я бы вынес в отдельную функцию.
#libs#tricks#django
🇪🇺 Il Parlamento Europeo ha dato il via libera alla lista UE dei Paesi d’origine sicuri e alla revisione dei criteri per definire i Paesi terzi sicuri. L’elenco approvato dall’Aula include Kosovo, Bangladesh, Colombia, Egitto, India, Marocco e Tunisia. Sarà possibile espellere richiedenti asilo verso Paesi terzi con cui l’UE ha accordi bilaterali. Decisivo il voto favorevole del #PPE insieme alle destre.
@UltimoraPolitics24
Nota del Partito Popolare Europeo: “Il gruppo #PPE respinge fermamente le osservazioni fatte da Silvio Berlusconi sull'Ucraina. Non riflettono la nostra linea politica.
La Russia è l'aggressore, l'Ucraina è la vittima.
Non cederemo alla narrazione di Putin e l'Ucraina può contare sul nostro pieno sostegno.”
@UltimoraPolitics
L’UE pronta a rivedere lo stop ai motori a combustione: secondo Reuters, la Commissione eliminerà il divieto totale dal 2035, puntando a una riduzione del 90% delle emissioni CO₂, senza limiti assoluti né al 2035 né al 2040.
Manfred #Weber conferma il cambio di rotta: “La fine dei motori a combustione è storia”. Una scelta rivendicata dal #PPE in nome della neutralità tecnologica, a tutela dell’industria auto e dell’occupazione.
@UltimoraPolitics
https://x.com/SavinoBalzano/status/1909492697062424807?t=DrbGQj-rNkGiv9RetXqvyA&s=19
MAMMA LI SOVRANISTIH!!!
Mi è piaciuta moltissimo la risposta di ieri sera di #Caracciolo.
Sono mesi che provo a ricordare come gli uomini più pericolosi nella parte di mondo che chiamiamo #Occidente siano quelli che generalmente si definiscono moderati.
#Biden, un pover’uomo in preda al delirio e controllato da altri, ci ha portato quasi alla terza guerra mondiale. #Macron, da mesi, freme per inviare truppe al fronte contro la #Russia: forse vuole la rivincita dopo la campagna napoleonica andata così così.
Nel #RegnoUnito non c’è differenza tra laburisti e conservatori: basti pensare alle strategie di #Starmer e a #Johnson, che soffocò i primi tentativi di dialogo tra #Mosca e #Kiev.
Pensate all’#Italia, dove i centristi, moderati per eccellenza, sono i più accaniti sostenitori della strategia delle armi: #Calenda, per esempio, di cui ogni mattina guardiamo i video per ridere, ma che fa sul serio. Ma anche #Tajani e #Schlein, che sono esattamente la stessa cosa.
Se poi guardiamo alla #Germania, allora c’è da sudare freddo: modificano la Costituzione, col Parlamento uscente, nonostante ci siano già state le elezioni, per poter investire mille miliardi in armamenti. Il cancelliere uscente è #Scholz, il prossimo sarà #Merz: due personcine a modo.
Quelli che vengono definiti #sovranisti sono tutti contrari al riarmo: #LePen, #Orban, #Salvini, #Abascal, #Weidel.
Lo stesso vale per quelli che definiscono #populisti: si pensi a #Conte.
Anche quelli che un tempo erano sovranisti, poi “normalizzati” per poter governare – tipo #Meloni – non supportano apertamente il riarmo europeo: al massimo si astengono. Sono quelli che si nascondono sotto il banco mentre la professoressa scorre il dito sul registro per decidere chi interrogare.
Non sono mica estremiste #VonDerLeyen e #Kallas: la prima è affiliata al #PPE, la seconda a #Renew.
Al secondo gruppo fa riferimento anche #Lahbib – quella della fashion-war, quella della borsetta della resilienza.
Ma ci ripetono che dobbiamo avere paura dei sovranisti.