Python
requests, httpx, aiohttp, async concurrency
เอกสาร · เกตเวย์, รูปแบบชื่อผู้ใช้, เซสชัน, ข้อผิดพลาด, ขีดจำกัด
ทุกอย่างที่คุณต้องใช้เพื่อส่งคำขอครั้งแรก แล้วก็เอกสารที่คุณจะกลับมาดูอีก: พารามิเตอร์เป้าหมาย, กฎเซสชัน, รหัสข้อผิดพลาดและขีดจำกัดต่างๆ
คำตอบด่วน
ฉันจะเชื่อมต่อกับพร็อกซี CrawlRelay อย่างไร?
ชี้ไคลเอนต์ HTTP ใดๆ ไปที่ http://USERNAME:[email protected]:7777 หรือ SOCKS5 ที่พอร์ต 7778. CrawlRelay เป็นพร็อกซีเรซิเดนเชียลสำหรับนักพัฒนาที่อ่านเป้าหมายและเซสชันจากชื่อผู้ใช้: USERNAME-country-us-city-new_york-session-job1-ttl-30. การจราจรพร็อกซีเรซิเดนเชียลคิดค่าบริการ US$1.50 ต่อ 1 GB และ US$0.50/GB จาก 50 GB จ่ายด้วยคริปโต และไม่ต้อง KYC
| โฮสต์เกตเวย์ | gw.crawlrelay.com |
|---|---|
| พอร์ท HTTP / HTTPS | 7777 (เว็บไซต์ HTTPS ผ่าน CONNECT) |
| พอร์ท SOCKS5 | 7778 (ใช้ socks5h:// เพื่อให้ DNS แก้ไขชื่อที่ทางออก) |
| การยืนยันตัวตน | ชื่อผู้ใช้และรหัสผ่านของแผนของคุณหรือตัวผู้ใช้ย่อย หรือรายการอนุญาต IP (สูงสุด 10 IP) |
| รูปแบบชื่อผู้ใช้ | USERNAME-country-{cc}-state-{state}-city-{city}-zip-{zip}-asn-{asn}-session-{id}-ttl-{minutes} |
| ความยาวของเซสชัน | นานสูงสุด 30 นาที; IP อาจเปลี่ยนก่อนเวลา |
| ทดสอบ URL | https://api.ipify.org คืนค่า IP ทางออกเป็นข้อความธรรมดา |
| API การจัดการ | https://crawlrelay.com/api/v1, คีย์ API ที่สามารถเพิกถอนได้ตลอดเวลา (เอกสาร API) |
คัดลอกชื่อผู้ใช้และรหัสผ่านจากแดชบอร์ดของคุณ แล้วรันหนึ่งในคำสั่งเหล่านี้ แต่ละคำสั่งจะแสดงที่อยู่ IP ที่เว็บไซต์เห็น ซึ่งโดยปกติจะเปลี่ยนจากการรันครั้งหนึ่งไปยังครั้งถัดไป
curl -x http://USERNAME-country-us:[email protected]:7777 https://api.ipify.orgimport requests
proxy = "http://USERNAME-country-us:[email protected]:7777"
r = requests.get("https://api.ipify.org", proxies={"http": proxy, "https": proxy}, timeout=(10, 30))
print(r.text)import { ProxyAgent, fetch } from "undici";
const dispatcher = new ProxyAgent("http://USERNAME-country-us:[email protected]:7777");
const res = await fetch("https://api.ipify.org", { dispatcher });
console.log(await res.text());เริ่มจากชื่อผู้ใช้ในแดชบอร์ดของคุณแล้วต่อพารามิเตอร์ด้วยขีดกลาง ตามลำดับในรูปแบบข้างต้น ทุกพารามิเตอร์เป็นตัวเลือก ค่าทั้งหมดเป็นตัวพิมพ์เล็ก และชื่อเมืองใช้ขีดล่าง (new_york, sao_paulo) ความพร้อมใช้งานของเมืองแตกต่างกัน
| เป้าหมาย | ชื่อผู้ใช้ |
|---|---|
| ทุกประเทศ หมุนเปลี่ยนตามการเชื่อมต่อ | USERNAME |
| เยอรมนี | USERNAME-country-de |
| ปารีส | USERNAME-country-fr-city-paris |
| เท็กซัส | USERNAME-country-us-state-tx |
| รหัสไปรษณีย์เดียว | USERNAME-country-us-zip-10001 |
| ผู้ให้บริการอินเทอร์เน็ตเดียว | USERNAME-country-us-asn-7922 |
| ใช้ IP เดียวกันได้นานถึง 30 นาที | USERNAME-country-gb-session-abc123-ttl-30 |
ถ้ารหัสผ่านของคุณมี @, : หรือ / ให้เข้ารหัส URL ก่อนใส่ใน URL ของพร็อกซี หน้า ข้อผิดพลาด 407 แสดงวิธีการ
ชื่อผู้ใช้ ที่ไม่มี session- จะได้รับ IP จากกลุ่มในแต่ละการเชื่อมต่อ TCP ใหม่ โดยปกติจะเป็น IP ที่ต่างกัน ชื่อผู้ใช้ ที่มี session-<id>-ttl-<minutes> จะรักษา IP ทางออกเดียวกันสำหรับ ID นั้นจนกว่า TTL จะหมดอายุหรืออุปกรณ์พร็อกซีเรซิเดนเชียลจะออฟไลน์
คำแนะนำเรื่อง เซสชัน ครอบคลุมการใช้ซ้ำการเชื่อมต่อในแต่ละไลบรารี
ก่อนอื่นตรวจสอบว่าใครตอบ: เกตเวย์ หรือเว็บไซต์ข้างหลังมัน
| คุณจะเห็น | ส่งโดย | สาเหตุทั่วไป | ต้องทำอย่างไร |
|---|---|---|---|
| 407 | เกตเวย์ | ข้อมูลรับรองผิดหรือไม่ได้เข้ารหัส | แก้ไขชื่อผู้ใช้หรือรหัสผ่าน อย่าลองใหม่แบบสุ่มๆ |
| ERR_TUNNEL_CONNECTION_FAILED | เบราว์เซอร์ | CONNECT ถูกปฏิเสธ (มักเป็น 407 ที่ซ่อนอยู่) | ส่งข้อมูลรับรองเป็นฟิลด์ อย่าส่งใน URL เซิร์ฟเวอร์ |
| 502 / 504 | เกตเวย์หรือ CDN | เส้นทางออกหลุด เป้าหมายช้า หรือไม่ตอบสนอง | ลองใหม่ด้วยการเชื่อมต่อใหม่ โดยมีขีดจำกัด |
| 403 | เว็บไซต์ | ประเทศ, เฮดเดอร์, อัตรา หรือการปฏิเสธไม่ถูกต้อง | ตรวจสอบในเบราว์เซอร์ ชะลอการส่งหรือเคารพการปฏิเสธ |
| 429 | เว็บไซต์ | จำกัดอัตรา | เคารพ Retry-After ลดจำนวนการเชื่อมต่อพร้อมกันต่อโฮสต์ |
| SSL: WRONG_VERSION_NUMBER | ไคลเอนต์ของคุณ | https:// นำหน้าที่ URL ของพร็อกซี | ใช้ http:// สำหรับ URL ของพร็อกซี |
รายการ 15 ทั้งหมดอยู่ใน error reference.
ในแดชบอร์ด หรือผ่าน REST API ที่ https://crawlrelay.com/api/v1 พร้อมคีย์ API คีย์ API ที่สามารถเพิกถอนได้ตลอดเวลา งานหลักๆ:
requests, httpx, aiohttp, async concurrency
มิดเดิลแวร์, เซสชันต่อคำขอ, AutoThrottle
Python และ Node.js, พร็อกซีต่อบริบท
ธงบวก page.authenticate()
พร็อกซีมือถือ 4G ผ่านตัวส่งต่อภายในเครื่อง
undici, axios, got, SOCKS5
HTTP, SOCKS5, ดีบักด้วย -v
ใช้การเชื่อมต่อซ้ำ, TTL, IP หนึ่งตัวต่อโฟลว์
จำกัดต่อโฮสต์, Throughput และ Backoff
CrawlRelay เผยแพร่คู่มือคัดลอกวางสำหรับ Python (requests, httpx, aiohttp), Scrapy, Playwright, Puppeteer, Selenium, Node.js และ curl, พร้อมข้อมูลอ้างอิงของข้อผิดพลาด 15 proxy errors และ REST API reference ที่มีตัวอย่าง curl, Python และ Node.js ทุกตัวอย่างใช้โฮสต์เกตเวย์และพอร์ตจริง และตรวจสอบซินแท็กซ์ก่อนเผยแพร่
ไม่ต้อง ใบรับรองชื่อผู้ใช้และรหัสผ่านทำงานได้จากทุกเครื่อง ดังนั้นคุณใช้สแครปเปอร์เครื่องเดียวกันบนแล็ปท็อป เซิร์ฟเวอร์ หรือ CI runner ได้ หากต้องการก็เพิ่ม IP สูงสุด 10 ตัวในรายชื่อที่อนุญาตแทน เก็บข้อมูลรับรองในตัวแปรแวดล้อมหรือผู้จัดการความลับ อย่าใส่ในรีโพสิตอรี
ไม่ว่าชื่อผู้ใช้ของคุณจะมี session ID ซึ่งจะรักษา IP เดียวไว้โดยตั้งใจ หรือไคลเอนต์ของคุณใช้การเชื่อมต่อแบบ kept-alive ซ้ำ การหมุน IP จะเกิดขึ้นเมื่อมีการเชื่อมต่อใหม่เท่านั้น ให้ลบส่วนของ session หรือเปิดการเชื่อมต่อใหม่ในแต่ละคำขอ ตามที่แสดงใน sessions guide.
ใช้พอร์ต HTTP (7777) สำหรับเว็บสแครปปิ้ง: ทุกไลบรารีและเบราว์เซอร์รองรับพร้อมการพิสูจน์ตัวตน และเว็บไซต์ HTTPS ทำงานผ่าน CONNECT tunnels ใช้ SOCKS5 (7778) กับเครื่องมือที่สนับสนุน SOCKS เท่านั้น พร้อม socks5h:// เพื่อให้ DNS แก้ไขที่จุดออก (exit)
ร้องขอ https://api.ipify.org ผ่านพร็อกซีเพื่อรับ IP แล้วตรวจสอบกับฐานข้อมูลหาตำแหน่งที่เชื่อถือได้ ฐานข้อมูลอาจไม่ตรงกันในบาง IP โดยเฉพาะ IP มือถือ ดังนั้นควรตรวจสอบเนื้อหาที่ปลายทางให้ดี เช่น สกุลเงิน ภาษา และผลลัพธ์ท้องถิ่นที่สำคัญสำหรับข้อมูลของคุณ
แผนทั้งหมดคิดค่าบริการตาม GB ไม่ใช่ตามคำขอ และข้อจำกัดแรกที่เจอมักเป็นของเป้าหมายเอง ควบคุมแต่ละเป้าหมายแยกกันและลดความเร็วเมื่อได้รับรหัส 429 และ 503 หากคุณวางแผนคราวด์ขนาดใหญ่ แจ้งฝ่ายสนับสนุนที่ [email protected] ก่อน
จาก US$0.50/GB · ไม่ต้อง KYC
เริ่มต้นเลย