主机论坛

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
12
返回列表 发新帖
楼主: Telegramr

问个PHP获取网页源代码的问题

[复制链接]

21

主题

172

帖子

481

积分

中级会员

Rank: 3Rank: 3

积分
481
 楼主| 发表于 2024-4-13 17:33:37 | 显示全部楼层
icon 发表于 2024-4-13 17:38
前两个连接,我的浏览器是直接404。应该是检查了referer。

我也加过referer,但同样没有效果,它的referer在本地用浏览器看是 2024.ip138.com这种页面会有各种限制的,多访问几下。直接浏览器都不让访问。直接找api接口。
回复

使用道具 举报

13

主题

639

帖子

1855

积分

金牌会员

Rank: 6Rank: 6

积分
1855
发表于 2024-4-13 17:31:00 | 显示全部楼层
似毛非毛 发表于 2024-4-13 17:56
这种页面会有各种限制的,多访问几下。直接浏览器都不让访问。直接找api接口。 ...

我试过很多次了,但是要么是空白,要么是302
回复

使用道具 举报

21

主题

172

帖子

481

积分

中级会员

Rank: 3Rank: 3

积分
481
 楼主| 发表于 2024-4-13 17:34:47 | 显示全部楼层
我本地小鸡和国外小鸡试了,不加ua.302。加了ua返回一个特定的404页面
回复

使用道具 举报

21

主题

172

帖子

481

积分

中级会员

Rank: 3Rank: 3

积分
481
 楼主| 发表于 2024-4-13 17:31:00 | 显示全部楼层
似毛非毛 发表于 2024-4-13 17:56
这种页面会有各种限制的,多访问几下。直接浏览器都不让访问。直接找api接口。 ...

这命令在cmd下执行,404,我在debian下运行却没有事
curl --user-agent "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.63 Safari/537.36" https://www.ip138.com/iplookup.php?ip=110.242.68.66&action=2
回复

使用道具 举报

29

主题

1049

帖子

3009

积分

论坛元老

Rank: 8Rank: 8

积分
3009
发表于 2024-4-13 17:38:21 | 显示全部楼层

用浏览器来打开,也是404了
回复

使用道具 举报

3

主题

119

帖子

315

积分

中级会员

Rank: 3Rank: 3

积分
315
发表于 2024-4-13 17:44:06 | 显示全部楼层
这种工具类,要么买接口,要么下免费库自己解析。
不要想着一个curl就白piao,谁也不傻,早都做限制了
回复

使用道具 举报

1

主题

32

帖子

89

积分

注册会员

Rank: 2

积分
89
发表于 2024-4-13 18:19:39 | 显示全部楼层
Telegramr 发表于 2024-4-13 18:23
用浏览器来打开,也是404了

额,好像是他们网站挂了吧,我这也是404
回复

使用道具 举报

3

主题

17

帖子

57

积分

注册会员

Rank: 2

积分
57
发表于 2024-4-13 18:09:35 | 显示全部楼层
pc访问页面也是404,
回复

使用道具 举报

11

主题

315

帖子

839

积分

高级会员

Rank: 4

积分
839
发表于 2024-4-13 17:56:00 | 显示全部楼层
301和302的状态码是临时重定向,会用 到CURLOPT_FOLLOWLOCATION选项

伪装UA和Referer,使用cookie如果依然404,网站可能使用了防爬虫机制,需要 IP代理池。话说为个ip有必要吗
回复

使用道具 举报

1

主题

32

帖子

89

积分

注册会员

Rank: 2

积分
89
发表于 2024-4-13 18:17:15 | 显示全部楼层
第三个 www.ipshudi.com 我用php实现过 是可以获取的 但是有时候会出现跳转的问题 正常访问有时候也会这样
应该是做了限制
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|主机论坛

GMT+8, 2024-4-30 09:18 , Processed in 0.087906 second(s), 16 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表