Предупреждение возникает при вставке 4-байтового Unicode в MySQL

Посмотрите на следующее:

/home/kinka/workspace/py/tutorial/tutorial/pipelines.py:33: Warning: Incorrect string 
value: '\xF0\x9F\x91\x8A\xF0\x9F...' for column 't_content' at row 1
n = self.cursor.execute(self.sql, (item['topic'], item['url'], item['content']))

Строка'\xF0\x9F\x91\x8AНа самом деле это 4-байтовый юникод:u'\U0001f62a', Набор символов mysql - это utf-8, но при вставке 4-байтового Unicode он усекает вставленную строку. Я гуглил такую проблему и обнаружил, что mysql под 5.5.3 не поддерживает 4-байтовый юникод, и, к сожалению, мой - 5.5.224. Я не хочу обновлять сервер MySQL, поэтому я просто хочу отфильтровать 4-байтовый Unicode в Python, я попытался использовать регулярное выражение, но не получилось. Итак, любая помощь?

Ответы на вопрос(3)

тебе следует использовать сортировку utf8mb4 вместо utf8 и запустить

SET NAMES UTF8MB4

после соединения с БД ссылк, ссылк, ссылк)

def normalize_unicode(s):
    return ''.join([ unichr(k) if k < 0x10000 else 0xfffd for k in [ord(c) for c in s]])

тогда вам придется отфильтровать все символы Юникода по кодовой точке\U00010000; UTF-8 кодирует кодовые точки ниже этого порога в 3 байта или меньше.

Для этого можно использовать регулярное выражение:

>>> import re
>>> highpoints = re.compile(u'[\U00010000-\U0010ffff]')
>>> example = u'Some example text with a sleepy face: \U0001f62a'
>>> highpoints.sub(u'', example)
u'Some example text with a sleepy face: '

Кроме того, вы можете использовать.translate() функция с таблицей сопоставления, которая содержит толькоNone значения

>>> nohigh = { i: None for i in xrange(0x10000, 0x110000) }
>>> example.translate(nohigh)
u'Some example text with a sleepy face: '

Однако создание таблицы перевода потребует много памяти и займет некоторое время; это, вероятно, не стоит ваших усилий, поскольку подход с регулярными выражениями более эффективен.

Это предполагает, что вы используете скомпилированный питон UCS-4. Если ваш питон был скомпилирован с поддержкой UCS-2, то вы можете использовать только кодовые точки до'\U0000ffff' в регулярных выражениях, и вы никогда не столкнетесь с этой проблемой в первую очередь.

Замечу, что с MySQL 5.5.3 недавно добавленныйutf8mb4 кодек действительно поддерживает полный диапазон Unicode.

ВАШ ОТВЕТ НА ВОПРОС