chars
sequencelengths
2
145
labels
sequencelengths
2
145
[ "喂", "!", "J", "e", "s", "s", "i", "c", "a", ",", "你", "又", "話", "想", "去", "剪", "頭", "髮", "𠸏", "." ]
[ 3, 3, 3, 1, 1, 1, 1, 1, 1, 3, 3, 3, 3, 3, 3, 3, 3, 1, 3, 3 ]
[ "係", "喇", ",", "但", "係", "呢", ",", "我", "又", "唔", "知", "點", "喎", ",", "因", "為", "我", "我", "諗", "住", "譬", "如", "如", "果", "長", "頭", "髮", "噉", "樣", ",", "噉", "我", "一", "係", "呢", "就", "噉", "修", "短", "幾", "寸", "噉", "樣", "喇", ",", "一", "係", "呢", "就", "係", "即", "係", "剪", "到", "好", "短", "噉", "樣", "囖", "." ]
[ 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 1, 3, 3, 3, 0, 3, 1, 3, 1, 3, 3, 1, 3, 1, 3, 3, 3, 3, 1, 3, 3, 1, 3, 3, 3, 0, 3, 1, 3, 3, 3, 1, 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 1, 3, 3 ]
[ "但", "係", "我", "又", "覺", "得", "因", "為", "我", "以", "前", "試", "過", "剪", "短", "呢", ",", "就", "會", "個", "樣", "好", "細", "個", "." ]
[ 3, 1, 3, 3, 3, 1, 3, 1, 3, 3, 1, 3, 0, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 0, 3 ]
[ "即", "係", "我", "而", "家", "個", "樣", "已", "經", "好", "細", "個", "喇", "嗎", ",", "如", "果", "再", "剪", "落", "去", "就", "會", "覺", "得", "好", "細", "個", "." ]
[ 3, 1, 3, 3, 1, 3, 3, 3, 1, 3, 3, 0, 3, 0, 3, 3, 1, 3, 3, 3, 0, 3, 3, 3, 1, 3, 3, 0, 3 ]
[ "就", "驚", "住", "好", "似", "唔", "係", "咁", "好", "噉", "樣", "囖", "." ]
[ 3, 3, 0, 3, 1, 3, 3, 3, 3, 3, 1, 3, 3 ]
[ "噉", "所", "以", "\"", "\"", "我", "都", "未", "決", "定", "啊", "所", "以", "." ]
[ 3, 3, 1, 3, 3, 3, 3, 3, 3, 1, 3, 3, 1, 3 ]
[ "所", "以", "就", "而", "家", "都", "未", "去", "剪", "囖", "." ]
[ 3, 1, 3, 3, 1, 3, 3, 3, 3, 3, 3 ]
[ "C", "a", "t", "h", "y", ",", "你", "記", "唔", "記", "得", "呢", ",", "佢", "嗰", "陣", "時", "呢", ",", "唔", "知", "f", "i", "r", "s", "t", "y", "e", "a", "r", "嗰", "陣", "時", "呢", "咪", "咪", "剪", "過", "短", "𠸏", "." ]
[ 3, 1, 1, 1, 1, 3, 3, 3, 0, 0, 1, 3, 3, 3, 3, 0, 1, 3, 3, 3, 3, 3, 1, 1, 1, 1, 3, 1, 1, 1, 3, 0, 1, 3, 3, 3, 3, 0, 3, 3, 3 ]
[ "你", "記", "唔", "記", "得", "佢", "嗰", "陣", "時", "個", "樣", "啊", "?" ]
[ 3, 3, 0, 0, 1, 3, 3, 0, 1, 3, 3, 3, 3 ]
[ "我", "唔", "記", "得", "嘍", "." ]
[ 3, 3, 1, 1, 3, 3 ]
[ "係", "呀", "." ]
[ 3, 3, 3 ]
[ "係", "咩", "?" ]
[ 3, 3, 3 ]
[ "我", "我", "都", "覺", "得", "唔", "係", "幾", "好", "睇", "啊", "嗰", "個", "." ]
[ 3, 3, 3, 3, 1, 3, 3, 3, 3, 1, 3, 3, 0, 3 ]
[ "你", "剪", "到", "幾", "短", "啊", "?" ]
[ 3, 3, 3, 3, 3, 3, 3 ]
[ "即", "係", "噉", "樣", "嗰", "啲", "呀", "?" ]
[ 3, 1, 3, 1, 3, 0, 3, 3 ]
[ "係", "嘞", "." ]
[ 3, 3, 3 ]
[ "係", "嘞", "." ]
[ 3, 3, 3 ]
[ "係", "嘞", "." ]
[ 3, 3, 3 ]
[ "係", "嘞", "." ]
[ 3, 3, 3 ]
[ "哦", "." ]
[ 3, 3 ]
[ "好", "似", "你", "而", "家", "噉", "樣", "囖", "." ]
[ 3, 1, 3, 3, 1, 3, 1, 3, 3 ]
[ "即", "係", "齊", "嘅", "又", "係", "係", "唔", "係", "齊", "𡃉", "?" ]
[ 3, 1, 3, 3, 3, 3, 3, 0, 0, 3, 3, 3 ]
[ "係", "嘞", ",", "係", "啊", ",", "齊", "𡃉", "齊", "𡃉", "." ]
[ 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3 ]
[ "噉", "我", "又", "覺", "得", "唔", "好", "睇", "囖", "." ]
[ 3, 3, 3, 3, 1, 3, 3, 1, 3, 3 ]
[ "同", "埋", ",", "即", "係", "又", "會", "拱", "起", "噉", "樣", "呢", ",", "\"", "\"", "好", "似", "好", "肉", "酸", "噉", "樣", "啊", "." ]
[ 3, 1, 3, 3, 1, 3, 3, 3, 1, 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 1, 3, 1, 3, 3 ]
[ "嗯", "." ]
[ 3, 3 ]
[ "同", "埋", "好", "似", "好", "厚", "啊", "." ]
[ 3, 1, 3, 1, 3, 3, 3, 3 ]
[ "係", "啊", "好", "細", "個", ",", "\"", "你", "知", "唔", "知", "\"", "我", "啲", "頭", "髮", "又", "唔", "係", "好", "重", "嗰", "隻", "啊", "." ]
[ 3, 3, 3, 3, 0, 3, 3, 3, 3, 0, 0, 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 3, 0, 3, 3 ]
[ "即", "係", "比", "較", "輕", "啲", ",", "同", "埋", "有", "少", "少", "攣", "攣", "哋", "噉", "樣", "呢", "." ]
[ 3, 1, 3, 1, 3, 0, 3, 3, 1, 3, 3, 1, 3, 0, 0, 3, 1, 3, 3 ]
[ "嗯", "." ]
[ 3, 3 ]
[ "噉", "我", "覺", "得", "唔", "好", "睇", "囖", "." ]
[ 3, 3, 3, 1, 3, 3, 1, 3, 3 ]
[ "你", "估", "你", "剪", "碎", "好", "唔", "好", "睇", "啊", "?" ]
[ 3, 3, 3, 3, 3, 3, 0, 0, 1, 3, 3 ]
[ "即", "係", ",", "唔", "係", ",", "即", "係", "長", ",", "長", ",", "但", "係", "剪", "碎", "啲", "呢", "." ]
[ 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 0, 3, 3 ]
[ "但", "係", "我", "唔", "鍾", "意", "佢", "剪", "頭", "髮", "嘅", "方", "式", "啊", "." ]
[ 3, 1, 3, 3, 3, 1, 3, 3, 3, 1, 3, 3, 1, 3, 3 ]
[ "喀", "." ]
[ 3, 3 ]
[ "削", "削", "削", "\"", "\"", "度", "削", "." ]
[ 3, 3, 3, 3, 3, 3, 3, 3 ]
[ "削", "呢", ",", "就", "削", "到", "我", "啲", "頭", "髮", "好", "傷", "." ]
[ 3, 3, 3, 3, 3, 3, 3, 3, 3, 1, 3, 3, 3 ]
[ "同", "埋", "好", "容", "易", "開", "叉", "啊", "." ]
[ 3, 1, 3, 3, 1, 3, 1, 3, 3 ]
[ "如", "果", "佢", "唔", "削", "噉", "剪", "剪", "剪", "呢", "." ]
[ 3, 1, 3, 3, 3, 3, 3, 3, 3, 3, 3 ]
[ "喀", "喀", "喀", "." ]
[ 3, 3, 3, 3 ]
[ "剪", "嘅", "形", "式", "去", "我", "就", "會", "覺", "得", "好", "啲", "囖", "." ]
[ 3, 3, 3, 1, 3, 3, 3, 3, 3, 1, 3, 0, 3, 3 ]
[ "唔", "係", "啊", "." ]
[ 3, 3, 3, 3 ]
[ "如", "果", "你", "係", "削", "\"", "\"", ",", "剪", "一", "層", "層", "." ]
[ 3, 1, 3, 3, 3, 3, 3, 3, 3, 3, 0, 0, 3 ]
[ "係", "嚹", "." ]
[ 3, 3, 3 ]
[ "係", "噉", "樣", "𠺢", "嗎", "." ]
[ 3, 3, 1, 3, 1, 3 ]
[ "其", "實", "其", "實", "唔", "會", "傷", "頭", "髮", "𡃉", "喎", "." ]
[ 3, 1, 3, 1, 3, 3, 3, 3, 1, 3, 0, 3 ]
[ "唔", "係", ",", "因", "為", "我", "試", "過", "啊", "." ]
[ 3, 3, 3, 3, 1, 3, 3, 0, 3, 3 ]
[ "所", "以", "呢", ",", "佢", "噉", "削", "呢", ",", "佢", "就", "覺", "得", "佢", "會", "即", "係", "呢", "佢", "削", "嘅", "時", "候", "同", "你", "剪", "係", "唔", "同", "𠺢", "嗎", "." ]
[ 3, 1, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 1, 3, 3, 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 1, 3, 1, 3 ]
[ "嗯", "." ]
[ 3, 3 ]
[ "你", "一", "削", "嘅", "時", "候", "會", "拉", "條", "頭", "髮", "呢", ",", "噉", "就", "會", "變", "咗", "呢", ",", "就", "會", "好", "容", "易", "開", "叉", "." ]
[ 3, 3, 3, 3, 3, 1, 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 3, 0, 3, 3, 3, 3, 3, 3, 1, 3, 1, 3 ]
[ "因", "為", "開", "親", "叉", "都", "係", "嗰", "啲", "開", "𡃉", "喎", "." ]
[ 3, 1, 3, 0, 3, 3, 3, 3, 0, 3, 3, 0, 3 ]
[ "我", "而", "家", "留", "到", "咁", "長", "都", "未", "開", "叉", "." ]
[ 3, 3, 1, 3, 3, 3, 3, 3, 3, 3, 1, 3 ]
[ "反", "而", "嗰", "陣", "時", "短", "嗰", "陣", "時", "噉", "樣", "削", "法", "呢", ",", "就", "反", "而", "啲", "頭", "髮", "開", "叉", "囖", "." ]
[ 3, 1, 3, 0, 1, 3, 3, 0, 1, 3, 1, 3, 3, 3, 3, 3, 3, 1, 3, 3, 1, 3, 1, 3, 3 ]
[ "所", "以", "我", "又", ",", "誒", ",", "又", "唔", "想", "噉", "樣", "剪", "囖", "." ]
[ 3, 1, 3, 3, 3, 3, 3, 3, 3, 3, 3, 1, 3, 3, 3 ]
[ "嗯", "." ]
[ 3, 3 ]
[ "喀", "." ]
[ 3, 3 ]
[ "嗰", "陣", "時", ",", "我", "都", "剪", "過", "削", "嗰", "啲", "喎", "." ]
[ 3, 0, 1, 3, 3, 3, 3, 0, 3, 3, 0, 3, 3 ]
[ "喀", "." ]
[ 3, 3 ]
[ "但", "係", "我", "都", "覺", "得", "o", "k", "喎", "." ]
[ 3, 1, 3, 3, 3, 1, 3, 1, 3, 3 ]
[ "我", "覺", "得", "." ]
[ 3, 3, 1, 3 ]
[ "我", "估", "你", "啲", "頭", "髮", "好", "啲", "啩", "." ]
[ 3, 3, 3, 3, 3, 1, 3, 0, 3, 3 ]
[ "哦", "." ]
[ 3, 3 ]
[ "同", "埋", "我", "成", "日", "都", "削", "𡃉", "我", "剪", ",", "即", "係", "\"", "\"", "." ]
[ 3, 1, 3, 3, 0, 3, 3, 3, 3, 3, 3, 3, 1, 3, 3, 3 ]
[ "短", "頭", "髮", "都", "會", "削", "." ]
[ 3, 3, 1, 3, 3, 3, 3 ]
[ "喀", "喀", "." ]
[ 3, 3, 3 ]
[ "同", "埋", "我", "又", "唔", "鍾", "意", "即", "係", "我", "一", "齊", "呢", "我", "又", "覺", "得", ",", "哎", "吔", ",", "好", "似", "好", "悶", "噉", "成", "日", "都", "齊", "噉", "樣", "." ]
[ 3, 1, 3, 3, 3, 3, 1, 3, 1, 3, 3, 1, 3, 3, 3, 3, 1, 3, 3, 1, 3, 3, 1, 3, 3, 3, 3, 0, 3, 3, 3, 1, 3 ]
[ "喀", ",", "係", "呀", "." ]
[ 3, 3, 3, 3, 3 ]
[ "其", "實", "所", "以", "我", "都", "覺", "得", "好", "悶", "𡃉", "其", "實", "." ]
[ 3, 1, 3, 1, 3, 3, 3, 1, 3, 3, 3, 3, 1, 3 ]
[ "噉", "所", "以", "我", "呢", "又", "成", "日", "都", "話", "我", "想", "偷", "薄", "啲", ",", "噉", "佢", "就", "會", "剪", "到", "一", "層", "層", "噉", "樣", "." ]
[ 3, 3, 1, 3, 3, 3, 3, 0, 3, 3, 3, 3, 3, 3, 0, 3, 3, 3, 3, 3, 3, 3, 3, 0, 0, 3, 1, 3 ]
[ "喀", "喀", "." ]
[ 3, 3, 3 ]
[ "就", "會", "覺", "得", "即", "係", "好", "似", "好", ",", "即", "係", "多", "啲", "款", "噉", "樣", "囖", "." ]
[ 3, 3, 3, 1, 3, 1, 3, 1, 3, 3, 3, 1, 3, 0, 3, 3, 1, 3, 3 ]
[ "其", "實", "我", "去", "到", "剪", "頭", "髮", "都", "唔", "知", "點", "講", "𡃉", "其", "實", "." ]
[ 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 3, 3, 1, 3 ]
[ "嗯", "." ]
[ 3, 3 ]
[ "即", "係", "我", "\"", "\"", "其", "實", ",", "我", "心", "目", "中", "又", "冇", "一", "個", ",", "即", "係", ",", "特", "定", "嘅", ",", "即", "係", "s", "t", "y", "l", "e", "噉", "樣", "喇", "." ]
[ 3, 1, 3, 3, 3, 3, 1, 3, 3, 3, 1, 0, 3, 3, 3, 0, 3, 3, 1, 3, 3, 1, 3, 3, 3, 1, 3, 1, 1, 1, 1, 3, 1, 3, 3 ]
[ "但", "係", "我", "去", "到", "嘅", "時", "候", "我", "唔", "知", "剪", "短", ",", "噉", "佢", "會", "問", "你", "想", "點", "樣", "剪", "短", "喇", "." ]
[ 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 1, 3, 3, 3, 3 ]
[ "跟", "住", "你", "又", "剪", "齊", ",", "但", "係", "我", "又", "其", "實", "我", "又", "唔", "想", "剪", "齊", "." ]
[ 3, 1, 3, 3, 3, 3, 3, 3, 1, 3, 3, 3, 1, 3, 3, 3, 3, 3, 3, 3 ]
[ "噉", "但", "係", "我", "又", "唔", "知", "點", "樣", "講", ",", "形", "容", "俾", "佢", "聽", "我", "應", "該", "想", "我", "個", "頭", "想", "點", "樣", "噉", "樣", "囖", "." ]
[ 3, 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 3, 3, 3, 3, 1, 3, 1, 3, 3 ]
[ "你", "可", "唔", "可", "以", "睇", "嗰", "啲", "呢", ",", "咪", "好", "多", "髮", "即", "係", "嗰", "啲", "髮", "型", "嗰", "啲", "書", "𠺢", "嗎", "." ]
[ 3, 3, 0, 0, 1, 3, 3, 0, 3, 3, 3, 3, 1, 3, 3, 1, 3, 0, 3, 1, 3, 0, 3, 3, 1, 3 ]
[ "你", "點", "解", "唔", "睇", "下", ",", "噉", "指", "俾", "佢", "睇", ",", "你", "想", "剪", "邊", "個", "?" ]
[ 3, 3, 1, 3, 3, 0, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 3, 0, 3 ]
[ "唔", "係", ",", "但", "係", "其", "實", "不", "過", "呢", ",", "不", "過", "我", "覺", "得", "如", "果", "你", ",", "你", "係", "想", "即", "係", "你", "係", "唔", "係", "想", "保", "留", "返", "長", "𡃉", "其", "實", "?" ]
[ 3, 3, 3, 3, 1, 3, 1, 3, 1, 3, 3, 3, 1, 3, 3, 1, 3, 1, 3, 3, 3, 3, 3, 3, 1, 3, 3, 0, 0, 3, 3, 1, 0, 3, 3, 3, 1, 3 ]
[ "我", "都", "唔", "知", "啊", "." ]
[ 3, 3, 3, 3, 3, 3 ]
[ "我", "覺", "得", "長", "我", "個", "樣", "會", "冇", "咁", "細", "個", "囖", "." ]
[ 3, 3, 1, 3, 3, 3, 3, 3, 3, 3, 3, 0, 3, 3 ]
[ "會", "." ]
[ 3, 3 ]
[ "喀", "喀", "喀", "." ]
[ 3, 3, 3, 3 ]
[ "係", "囖", ",", "係", "囖", ",", "係", "囖", "." ]
[ 3, 3, 3, 3, 3, 3, 3, 3, 3 ]
[ "即", "係", "但", "係", "如", "果", "長", "呢", "我", "覺", "得", "都", "係", ",", "即", "係", "冇", "乜", "變", "化", "啊", "." ]
[ 3, 1, 3, 1, 3, 1, 3, 3, 3, 3, 1, 3, 3, 3, 3, 1, 3, 3, 3, 1, 3, 3 ]
[ "冇", "乜", "變", "化", "." ]
[ 3, 3, 3, 1, 3 ]
[ "係", "嘞", ",", "係", "嘞", ",", "係", "嘞", "." ]
[ 3, 3, 3, 3, 3, 3, 3, 3, 3 ]
[ "一", "係", "就", "剪", "碎", "噉", "樣", "囖", "." ]
[ 3, 1, 3, 3, 3, 3, 1, 3, 3 ]
[ "係", "啊", "係", "啊", "." ]
[ 3, 3, 3, 3, 3 ]
[ "我", "都", "覺", "得", "係", "啊", "." ]
[ 3, 3, 3, 1, 3, 3, 3 ]
[ "即", "係", "如", "果", "你", "係", "長", ",", "一", "定", "係", "剪", "碎", "." ]
[ 3, 1, 3, 1, 3, 3, 3, 3, 3, 1, 3, 3, 3, 3 ]
[ "噉", "你", "又", "唔", "會", "電", "𡃉", "喇", "." ]
[ 3, 3, 3, 3, 3, 3, 3, 0, 3 ]
[ "喀", ",", "我", "覺", "得", "電", "重", "衰", "啊", "." ]
[ 3, 3, 3, 3, 1, 3, 3, 3, 3, 3 ]
[ "啲", "頭", "髮", "已", "經", "唔", "好", "喇", "." ]
[ 3, 3, 1, 3, 1, 3, 3, 3, 3 ]
[ "係", "囖", "." ]
[ 3, 3, 3 ]
[ "即", "係", "其", "實", "一", "定", "剪", "碎", "." ]
[ 3, 1, 3, 1, 3, 1, 3, 3, 3 ]
[ "所", "以", "如", "果", "剪", "碎", "你", "又", "唔", "想", ",", "即", "係", "噉", "樣", "削", "啲", "頭", "髮", "呢", "." ]
[ 3, 1, 3, 1, 3, 3, 3, 3, 3, 3, 3, 3, 1, 3, 1, 3, 3, 3, 1, 3, 3 ]
[ "係", "喇", ",", "冇", "得", "剪", "𡃉", "其", "實", "." ]
[ 3, 3, 3, 3, 0, 3, 3, 3, 1, 3 ]
[ "係", "啊", "." ]
[ 3, 3, 3 ]

This data is the subset of the Hong Kong Cantonese Corpus (HKCanCor) that has been re-segmented by the multi-tiered word segmentation scheme described in the following paper:

Charles Lam, Chaak-ming Lau, and Jackson L. Lee. 2024. Multi-Tiered Cantonese Word Segmentation. In Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024), pages 11993–12002, Torino, Italy. ELRA and ICCL.

Processing from original format

Chinese word segmentation is commonly framed as a sequence labelling task. To ease the adoption of the original dataset, we have transformed it into two columns:

  1. chars: The original sentence split into characters
  2. labels: One of D (Dash), I (Intermediate), P (Pipe), S (Space). This labelling scheme expands the common BI (Beginning/Intermediate) scheme into four labels. In particular, the I is the same as the BI scheme but the B tag is further split into D, P, and S.

Here's a sample segmented sentence in the original format and the processed format:

Original: 即係 噉樣 嗰-啲 呀 ?

Processed:

  • chars: 即 係 噉 樣 嗰 啲 呀 ?
  • labels: S I S I S D S S

Note how the label is taken from the left boundary of the labelled character. For the left most character in a sentence, there is no boundary character to its left. In these cases, we set up a convention to always label the left most character as S (Space).

Check out https://github.com/AlienKevin/dips for more details.

Downloads last month
49

Models trained or fine-tuned on AlienKevin/hkcancor-multi

Collection including AlienKevin/hkcancor-multi