0

0

将 Go 字符串高效转换为 UTF-16(大端)十六进制字符串的完整实现方法

花韻仙語

花韻仙語

发布时间:2026-02-22 20:20:02

|

722人浏览过

|

来源于php中文网

原创

将 Go 字符串高效转换为 UTF-16(大端)十六进制字符串的完整实现方法

本文详解如何在 go 中正确、高效地将 unicode 字符串编码为 utf-16be 格式的十六进制字符串,纠正“ucs-2”术语误用,并提供可复用、无内存冗余的生产级实现。

本文详解如何在 go 中正确、高效地将 unicode 字符串编码为 utf-16be 格式的十六进制字符串,纠正“ucs-2”术语误用,并提供可复用、无内存冗余的生产级实现。

在 Go 中将字符串转换为 UTF-16 编码的十六进制表示(如 Python 中 s.encode('utf-16-be').encode('hex') 的等效实现),关键在于理解编码本质:UTF-16BE 是字节序列,而非 rune 序列。原提问中使用 []rune 后格式化 %U 的方式存在根本性偏差——它输出的是每个 Unicode 码点的十六进制表示(即 U+0042、U+0069…),这实质上是 UTF-32 的高位截断模拟,无法正确处理代理对(surrogate pairs),且与 Python 的 utf-16-be 字节流完全不等价。

✅ 正确做法是:

  1. 将字符串按 UTF-8 解码为 Unicode 码点([]rune);
  2. 使用 unicode/utf16.Encode() 将其转换为 UTF-16 代码单元切片([]uint16);
  3. 将每个 uint16 按 大端序(BE)字节布局 转为两个字节,再整体编码为十六进制字符串。

以下为推荐的简洁、健壮、零分配优化的实现:

package main

import (
    "fmt"
    "strings"
    "unicode/utf16"
)

// hexUTF16FromString 将字符串编码为 UTF-16BE 十六进制字符串(小写,无分隔符)
// 注意:此结果等价于 Python 的 s.encode('utf-16-be').hex()
func hexUTF16FromString(s string) string {
    runes := []rune(s)
    utf16Units := utf16.Encode(runes)

    // 使用 fmt.Sprintf("%04x") 格式化每个 uint16(4位十六进制,补零)
    // %v 默认输出 slice 格式 "[0042 0069 ...]",需清洗
    hex := fmt.Sprintf("%04x", utf16Units)
    // 移除 [] 和空格:"[0042 0069]" → "00420069"
    return strings.Trim(strings.ReplaceAll(hex, " ", ""), "[]")
}

func main() {
    str := "Bien joué"
    fmt.Println("输入:", str)
    fmt.Println("UTF-16BE hex:", hexUTF16FromString(str))
    // 输出: 004200690065006e0020006a006f007500e9
}

? 重要说明:术语澄清(UCS-2 vs UTF-16)
Python 示例中实际使用的是 utf-16-be,即 UTF-16 大端字节序,而非已废弃的 UCS-2。根据 Unicode 官方 FAQ:

UCS-2 是 Unicode 1.1 时代的遗留术语,不支持代理对,无法表示 Unicode 补充平面字符(如 emoji ?、古文字等)。自 Unicode 2.0 起,UTF-16 已完全取代 UCS-2。现代系统应统一使用 “UTF-16” 表述。

大师兄智慧家政
大师兄智慧家政

58到家打造的AI智能营销工具

下载

因此,本实现生成的是标准 UTF-16BE 字节流的十六进制表示,完全兼容 Python 的 encode('utf-16-be').hex(),并天然支持所有 Unicode 字符(包括 ?、?、? 等四字节码点)。

? 进阶建议(生产环境)

  • 若性能敏感(如高频调用),可避免 fmt.Sprintf 和 strings.ReplaceAll 的内存分配,改用 bytes.Buffer 或预分配 []byte 手动写入;
  • 如需严格大写十六进制,将 %04x 改为 %04X;
  • 如需添加 BOM(Byte Order Mark),在编码前插入 0xFE, 0xFF 字节(UTF-16BE BOM),但 Python 的 utf-16-be 默认不含 BOM,故本实现保持一致。

总结:摒弃基于 rune 的 %U 误用方案,采用 unicode/utf16.Encode() + 字节级十六进制编码,才是语义准确、兼容性强、面向未来的 Go 实现方式。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

207

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

239

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

348

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

212

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

404

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

365

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

198

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1051

2025.06.17

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

1030

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 5.4万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号