SQLAlchemy批量插入跳过冲突记录需按数据库方言选择策略:PostgreSQL用insert().on_conflict_do_nothing()指定索引或约束名;SQLite用INSERT OR IGNORE;也可用原生SQL或封装多库兼容函数。

如果您在使用 SQLAlchemy 时需要向数据库表中插入多条记录,但希望跳过已存在主键或唯一约束冲突的记录,则需借助数据库原生的“ON CONFLICT DO NOTHING”语义。以下是实现该操作的多种方法:
一、使用 Core 的 insert().on_conflict_do_nothing()
此方法适用于 PostgreSQL,通过 SQLAlchemy Core 构建原生兼容的 upsert 语句,直接调用 on_conflict_do_nothing() 并指定冲突目标(如索引列或约束名)。
1、导入所需模块:from sqlalchemy.dialects.postgresql import insert
2、定义插入语句对象:stmt = insert(YourModel).values(data_list)
3、添加冲突处理逻辑:stmt = stmt.on_conflict_do_nothing(index_elements=['id'])
4、执行语句:session.execute(stmt); session.commit()
二、使用 Core 的 insert().on_conflict_do_nothing() 指定约束名
当无法确定索引元素或表中存在复合唯一约束时,可直接引用数据库中已命名的唯一约束(constraint name),确保冲突判断更精确。
1、确认目标表在数据库中已存在命名唯一约束,例如 uq_users_email
2、构建 insert 语句并绑定约束名:stmt = insert(YourModel).values(data_list).on_conflict_do_nothing(constraint='uq_users_email')
3、执行语句:session.execute(stmt); session.commit()
三、使用原生 SQL 执行 INSERT ... ON CONFLICT DO NOTHING
此方法绕过 SQLAlchemy ORM/ Core 的抽象层,直接发送符合 PostgreSQL 语法的 SQL 字符串,适用于复杂场景或版本兼容性要求较高的情况。
1、编写原生 SQL 字符串:sql = "INSERT INTO your_table (col1, col2) VALUES %s ON CONFLICT (col1) DO NOTHING"
2、使用 psycopg2.extras.execute_values(需安装 psycopg2-binary)批量绑定参数:from psycopg2.extras import execute_values; execute_values(cursor, sql, data_list)
3、提交事务:connection.commit()
四、对 SQLite 使用 INSERT OR IGNORE
SQLite 不支持 ON CONFLICT DO NOTHING 语法,但提供等效的 INSERT OR IGNORE 机制,需根据方言动态切换语法。
1、检测当前方言:if engine.dialect.name == 'sqlite'
2、构造兼容语句:stmt = text("INSERT OR IGNORE INTO your_table (col1, col2) VALUES (:col1, :col2)")
3、执行批量插入:session.execute(stmt, data_list); session.commit()
五、封装为可复用函数并适配多数据库
为避免重复编写数据库特定逻辑,可将批量插入或忽略操作封装为函数,依据 engine.dialect.name 分支选择对应策略。
1、定义函数签名:def bulk_insert_ignore(session, model, data_list):
2、判断方言分支:if session.bind.dialect.name == 'postgresql': ... elif session.bind.dialect.name == 'sqlite': ...
3、在各分支内调用对应插入逻辑,并统一提交:session.commit()










