Python requests库连接失败及RemoteDisconnected错误解决方案
在使用Python的requests库抓取网页时，经常会遇到连接中断的问题，例如requests.exceptions.ConnectionError: ('Connection aborted.', RemoteDisconnected('Remote end closed connection without response'))。本文将通过一个实际案例，讲解如何解决此类错误。
问题：
用户使用以下代码从剑桥词典（https://www.php.cn/link/860c3d76487bb4686b25f3ae8c0957e4：
立即学习“Python免费学习笔记（深入）”；
import requests url = "https://dictionary.cambridge.org/us/dictionary/english-arabic/hi" r = requests.get(url)
执行后出现RemoteDisconnected错误，提示远程连接在无响应的情况下关闭。使用wget工具却能正常访问，说明问题并非网站本身。
解决方案：
该错误通常是因为目标网站识别请求为机器人请求，从而主动断开连接。解决方法是在请求中添加User-Agent头部信息，模拟浏览器行为。修改后的代码如下：
import requests
url = "https://dictionary.cambridge.org/us/dictionary/english-arabic/hi"
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36'}
r = requests.get(url, headers=headers)
通过添加User-Agent，requests库发送的请求将被网站识别为来自浏览器的正常请求，避免被误判为机器人请求而导致连接中断。 代码中使用了Chrome浏览器的User-Agent，您可以根据实际情况修改为其他浏览器或自定义User-Agent。
通过以上修改，即可有效解决requests.get()方法连接特定网站时出现的RemoteDisconnected错误，成功获取网页HTML源码。
