Beautiful Soup - 各种对象

当我们将 html 文档或字符串传递给 beautifulsoup 构造函数时，beautifulsoup 基本上将复杂的 html 页面转换为不同的 python 对象。下面我们将讨论四种主要的对象:

标签
NavigableString
BeautifulSoup
注释

标签对象

HTML 标签用于定义各种类型的内容。 BeautifulSoup 中的标签对象对应于实际页面或文档中的 HTML 或 XML 标签。

>>> from bs4 import BeautifulSoup
>>> soup = BeautifulSoup('<b class="boldest">TutorialsPoint</b>')
>>> tag = soup.html
>>> type(tag)
<class 'bs4.element.Tag'>

标签包含很多属性和方法，标签的两个重要特征是它的 Name 名称和属性。

Name (tag.name)

每个标签都包含一个名称，可以通过".name"作为后缀访问。 tag.name 将返回标签的类型。

>>> tag.name
'html'

但是，如果我们更改标签名称，同样会反映在 BeautifulSoup 生成的 HTML 标签中。

>>> tag.name = "Strong"
>>> tag
<Strong><body><b class="boldest">TutorialsPoint</b></body></Strong>
>>> tag.name
'Strong'

属性（tag.attrs）

一个标签对象可以有任意数量的属性。标签 <b class="boldest"> 有一个属性"class"，其值为"boldest"。任何不是标签的东西，基本上都是一个属性，必须包含一个值。您可以通过访问键（如上例中访问"class"）或直接通过".attrs"访问来访问属性

>>> tutorialsP = BeautifulSoup("<div class='tutorialsP'></div>",'lxml')
>>> tag2 = tutorialsP.div
>>> tag2['class']
['tutorialsP']

我们可以对标签的属性进行各种修改（添加/删除/修改）。

>>> tag2['class'] = 'Online-Learning'
>>> tag2['style'] = '2007'
>>>
>>> tag2
<div class="Online-Learning" style="2007"></div>
>>> del tag2['style']
>>> tag2
<div class="Online-Learning"></div>
>>> del tag['class']
>>> tag
<b SecondAttribute="2">TutorialsPoint</b>
>>>
>>> del tag['SecondAttribute']
>>> tag
</b>
>>> tag2['class']
'Online-Learning'
>>> tag2['style']
KeyError: 'style'

多值属性

一些 HTML5 属性可以有多个值。最常用的是类属性，它可以有多个 CSS 值。其他包括"rel"、"rev"、"headers"、"accesskey"和"accept-charset"。 beautiful soup 中的多值属性以列表形式显示

>>> from bs4 import BeautifulSoup
>>>
>>> css_soup = BeautifulSoup('<p class="body"></p>')
>>> css_soup.p['class']
['body']
>>>
>>> css_soup = BeautifulSoup('<p class="body bold"></p>')
>>> css_soup.p['class']
['body', 'bold']

然而，如果任何属性包含多个值，但它不是任何版本的 HTML 标准的多值属性，beautiful soup 将单独保留该属性 −

>>> id_soup = BeautifulSoup('<p id="body bold"></p>')
>>> id_soup.p['id']
'body bold'
>>> type(id_soup.p['id'])
<class 'str'>

如果将标签转换为字符串，可以合并多个属性值。

>>> rel_soup = BeautifulSoup("<p> tutorialspoint Main <a rel='Index'> Page</a></p>")
>>> rel_soup.a['rel']
['Index']
>>> rel_soup.a['rel'] = ['Index', ' Online Library, Its all Free']
>>> print(rel_soup.p)
<p> tutorialspoint Main <a rel="Index Online Library, Its all Free"> Page</a></p>

通过使用"get_attribute_list"，得到的值总是一个列表，字符串，不管它是否是多值的。

id_soup.p.get_attribute_list(‘id’)

但是，如果将文档解析为"xml"，则没有多值属性 −

>>> xml_soup = BeautifulSoup('<p class="body bold"></p>', 'xml')
>>> xml_soup.p['class']
'body bold'

NavigableString

navigablestring 对象用于表示标签的内容。要访问内容，请使用带标签的".string"。

>>> from bs4 import BeautifulSoup
>>> soup = BeautifulSoup("<h2 id='message'>Hello, Tutorialspoint!</h2>")
>>>
>>> soup.string
'Hello, Tutorialspoint!'
>>> type(soup.string)
>

您可以用另一个字符串替换该字符串，但不能编辑现有字符串。

>>> soup = BeautifulSoup("<h2 id='message'>Hello, Tutorialspoint!</h2>")
>>> soup.string.replace_with("Online Learning!")
'Hello, Tutorialspoint!'
>>> soup.string
'Online Learning!'
>>> soup
<html><body><h2 id="message">Online Learning!</h2></body></html>

BeautifulSoup

BeautifulSoup 是当我们试图抓取网络资源时创建的对象。因此，这是我们要抓取的完整文档。大多数时候，它被视为标签对象。

>>> from bs4 import BeautifulSoup
>>> soup = BeautifulSoup("<h2 id='message'>Hello, Tutorialspoint!</h2>")
>>> type(soup)
<class 'bs4.BeautifulSoup'>
>>> soup.name
'[document]'

注释

comment 注释对象说明了web文档的注释部分。它只是一种特殊的 NavigableString 类型。

>>> soup = BeautifulSoup('<p><!-- Everything inside it is COMMENTS --></p>')
>>> comment = soup.p.string
>>> type(comment)
<class 'bs4.element.Comment'>
>>> type(comment)
<class 'bs4.element.Comment'>
>>> print(soup.p.prettify())
<p>
<!-- Everything inside it is COMMENTS -->
</p>