Skip to content

About

Automated free proxy scraper — auto-updates HTTP/SOCKS4/SOCKS5 lists every 20 minutes via GitHub Actions

Topics

Resources

Stars

0 stars

Watchers

0 watching

Forks

Repository files navigation

⚡ Automated Fast Proxy Scraper

Proxy Update Workflow Protocols Python 3.8+ License: MIT

Alat otomatisasi pengambil (scraper) dan pemverifikasi proxy publik gratis dari berbagai sumber terpercaya di internet. Daftar proxy diperbarui secara berkala dan otomatis via GitHub Actions dan dipisahkan berdasarkan protokol (HTTP/HTTPS, SOCKS4, dan SOCKS5).


🔗 Tautan Langsung Raw Proxy (Siap Pakai)

Gunakan tautan raw.githubusercontent.com di bawah ini untuk mengunduh atau mengintegrasikan daftar proxy langsung ke dalam bot, scraper, atau aplikasi Anda:

Protokol Tautan Raw GitHub Format
HTTP / HTTPS https://raw.githubusercontent.com/SoraDev-ID/proxy-scraper/main/http.txt IP:PORT
SOCKS4 https://raw.githubusercontent.com/SoraDev-ID/proxy-scraper/main/socks4.txt IP:PORT
SOCKS5 https://raw.githubusercontent.com/SoraDev-ID/proxy-scraper/main/socks5.txt IP:PORT
Status Update https://raw.githubusercontent.com/SoraDev-ID/proxy-scraper/main/last_updated.txt Metadata & Count

✨ Fitur Unggulan

  • 🚀 Cepat & Ringan: Mengambil puluhan ribu proxy unik dalam hitungan detik.
  • 🧹 Deduplikasi & Validasi Ketat: Memastikan hanya string dengan format IPv4 valid (0-255 per oktet tanpa reserved/loopback) dan port valid (1-65535).
  • 📡 Multi-Protokol: Mendukung pemisahan bersih untuk HTTP/HTTPS, SOCKS4, dan SOCKS5.
  • ⚡ Opsi Health-Check Asinkron: Dilengkapi opsi --check untuk pengujian konektivitas TCP berkecepatan tinggi dengan ratusan thread paralel.
  • 🤖 Auto-Commit Cerdas: GitHub Actions hanya membuat commit jika ada perubahan data baru untuk mencegah commit kosong (no spam commits).

📁 Struktur Direktori

proxy-scraper/
├── .github/
│   └── workflows/
│       └── update-proxy.yml # GitHub Actions auto-updater
├── scraper.py               # Script utama pengambil & pemverifikasi proxy
├── http.txt                 # Daftar proxy HTTP/HTTPS
├── socks4.txt               # Daftar proxy SOCKS4
├── socks5.txt               # Daftar proxy SOCKS5
├── last_updated.txt         # Timestamp dan rekap jumlah proxy
├── requirements.txt         # Dependensi Python (requests, urllib3)
├── .gitignore               # Standard ignore
└── README.md                # Dokumentasi & panduan

💻 Contoh Penggunaan di Python

1. HTTP/HTTPS Proxy (Rotasi Acak dengan requests)

import random
import requests

# 1. Ambil daftar proxy dari file lokal atau URL raw
with open("http.txt", "r") as f:
    proxies = [line.strip() for line in f if line.strip()]

# 2. Pilih proxy secara acak
random_proxy = random.choice(proxies)
proxy_dict = {
    "http": f"http://{random_proxy}",
    "https": f"http://{random_proxy}"
}

print(f"[*] Mencoba request melalui proxy: {random_proxy}")
try:
    response = requests.get(
        "https://httpbin.org/ip",
        proxies=proxy_dict,
        timeout=5
    )
    print("[✓] IP Asli Berhasil Disamarkan:", response.json())
except requests.exceptions.RequestException as e:
    print("[✗] Proxy timeout / gagal:", e)

2. SOCKS4 / SOCKS5 Proxy

Untuk menggunakan SOCKS proxy dengan requests, pasang dependensi PySocks:

pip install "requests[socks]"
import random
import requests

with open("socks5.txt", "r") as f:
    socks5_proxies = [line.strip() for line in f if line.strip()]

proxy = random.choice(socks5_proxies)
proxies = {
    "http": f"socks5://{proxy}",
    "https": f"socks5://{proxy}"
}

response = requests.get("https://httpbin.org/ip", proxies=proxies, timeout=5)
print(response.json())

⚙️ Cara Menjalankan Scraper Sendiri

1. Kloning Repository

git clone https://github.com/SoraDev-ID/proxy-scraper.git
cd proxy-scraper

2. Pasang Dependensi

pip install -r requirements.txt

3. Eksekusi Script

# Mode cepat (scrape & validasi format IP:Port)
python scraper.py

# Mode dengan verifikasi TCP aktif (opsional)
python scraper.py --check --timeout 1.5 --workers 150

ℹ️ Jadwal Pembaruan Otomatis

Workflow auto-updater dijalankan secara terjadwal setiap 5 menit (*/5 * * * *) sesuai interval minimum resmi GitHub Actions. Selain jadwal otomatis bawaan, pembaruan juga dapat dipicu secara manual melalui tab Actions (workflow_dispatch) atau melalui webhook eksternal (repository_dispatch). Panduan setup webhook 1 menit dapat dilihat di docs/external-cron.md.


⚖️ Disclaimer (Penyangkalan)

Semua proxy di dalam repository ini dikumpulkan secara publik dari berbagai agregator dan database open-source di internet.

  • Penulis (SoraDev-ID) tidak mengoperasikan, mengontrol, atau menjamin keandalan/keamanan dari server proxy yang terdaftar.
  • Dilarang keras menggunakan proxy ini untuk aktivitas ilegal, penipuan, peretasan, atau tindakan merugikan lainnya.
  • Gunakan secara bijak dan bertanggung jawab, terutama untuk kebutuhan riset, pengujian kompabilitas jaringan, dan pengikisan data publik (ethical web scraping).

📄 Lisensi

Proyek ini dirilis di bawah lisensi resmi MIT License.

Dikelola dengan ⚡ oleh SoraDev-ID

About

Automated free proxy scraper — auto-updates HTTP/SOCKS4/SOCKS5 lists every 20 minutes via GitHub Actions

Topics

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages