全文检索架构全文检索系统有哪些

转载

cnolnic 2023-10-16 20:38:22

文章标签 全文检索架构 html 全文检索 django 文章分类 架构后端开发

全文检索

全文检索不同于特定字段的模糊查询，使用全文检索的效率更高，并且能够对于中文进行分词处理
haystack：django的一个包，可以方便地对model里面的内容进行索引、搜索，设计为支持whoosh,solr,Xapian,Elasticsearc四种全文检索引擎后端，属于一种全文检索的框架
whoosh：纯Python编写的全文搜索引擎，虽然性能比不上sphinx、xapian、Elasticsearc等，但是无二进制包，程序不会莫名其妙的崩溃，对于小型的站点，whoosh已经足够使用
jieba：一款免费的中文分词包，如果觉得不好用可以使用一些收费产品

操作

1.在虚拟环境中依次安装包

pip install django-haystack
pip install whoosh
pip install jieba

2.修改settings.py文件

添加应用

INSTALLED_APPS = (
    ...
    'haystack',
)

添加搜索引擎

1 #添加搜索引擎
 2 HAYSTACK_CONNECTIONS = {
 3     'default': {
 4         'ENGINE': 'haystack.backends.whoosh_cn_backend.WhooshEngine',
 5         'PATH': os.path.join(BASE_DIR, 'whoosh_index'),
 6     }
 7 }
 8 #自动生成索引
 9 HAYSTACK_SIGNAL_PROCESSOR = 'haystack.signals.RealtimeSignalProcessor'
10 #一页有18个
11 HAYSTACK_SEARCH_RESULTS_PER_PAGE=18

3.在项目的urls.py中添加url

urlpatterns = [
    ...
    url(r'^search/', include('haystack.urls')),
]

4.在应用目录下建立search_indexes.py文件

models.py

1 from django.db import models
2 from tinymce.models import HTMLField
3 
4 class TextTest(models.Model):
5     hcontent=HTMLField()

search_indexes.py

1 from haystack import indexes
 2 from .models import TextTest
 3 
 4 
 5 class TextTestIndex(indexes.SearchIndex, indexes.Indexable):
 6     text = indexes.CharField(document=True, use_template=True)
 7 
 8     def get_model(self):
 9         return TextTest   #返回模型类
10 
11     def index_queryset(self, using=None):
12         return self.get_model().objects.all()

5.在目录“templates/search/indexes/应用名称/”下创建“模型类名称_text.txt”文件

#texttest_text.txt，这里列出了要对哪些列的内容进行检索
{{ object.hcontent }}

6.在目录“templates/search/”下建立search.html

1 <!DOCTYPE html>
 2 <html>
 3 <head>
 4     <title></title>
 5 </head>
 6 <body>
 7 {% if query %}
 8     <h3>搜索结果如下：</h3>
 9     {% for result in page.object_list %}
10         {{ result.object.id }}<br>               <!--注意：这里的id和hcontent取models模型类的属性名称。该模板可以自定义-->
11         {{ result.object.hcontent |safe }}<hr>   <!-- |safe不转义字符-->
12     {% empty %}
13         <p>啥也没找到</p>
14     {% endfor %}
15 
16     {% if page.has_previous or page.has_next %}
17         <div>
18             {% if page.has_previous %}<a href="?q={{ query }}&page={{ page.previous_page_number }}">{% endif %}« 上一页{% if page.has_previous %}</a>{% endif %}
19         |
20             {% if page.has_next %}<a href="?q={{ query }}&page={{ page.next_page_number }}">{% endif %}下一页 »{% if page.has_next %}</a>{% endif %}
21         </div>
22     {% endif %}
23 {% endif %}
24 </body>
25 </html>

7.建立ChineseAnalyzer.py文件

保存在haystack/backends/的安装文件夹下，路径如“E:\python_practice_ku\django_ttsx\Lib\site-packages\haystack\backends”

1 import jieba
 2 from whoosh.analysis import Tokenizer, Token
 3 
 4 class ChineseTokenizer(Tokenizer):
 5     def __call__(self, value, positions=False, chars=False,
 6                  keeporiginal=False, removestops=True,
 7                  start_pos=0, start_char=0, mode='', **kwargs):
 8         t = Token(positions, chars, removestops=removestops, mode=mode,
 9                   **kwargs)
10         seglist = jieba.cut(value, cut_all=True)
11         for w in seglist:
12             t.original = t.text = w
13             t.boost = 1.0
14             if positions:
15                 t.pos = start_pos + value.find(w)
16             if chars:
17                 t.startchar = start_char + value.find(w)
18                 t.endchar = start_char + value.find(w) + len(w)
19             yield t
20 
21 def ChineseAnalyzer():
22     return ChineseTokenizer()

8.复制whoosh_backend.py文件，改名为whoosh_cn_backend.py

引用模块
from .ChineseAnalyzer import ChineseAnalyzer 
查找
analyzer=StemmingAnalyzer()
改为
analyzer=ChineseAnalyzer()

9.生成索引（PS：不要忘记这一步！！！踩过坑-就是忘了初始化，所以一直出不来结果数据。还有上面的“模型类名称_text.txt”文件有变动的话，这里也要再初始化一遍！）

初始化索引数据

python manage.py rebuild_index

10.在模板中创建搜索栏

urls.py

1 from django.conf.urls import url,include
2 from . import views
3 
4 urlpatterns = [
5     url(r'^mysearch/$',views.mysearch),
6 ]

views.py

1 #全文检索+中文分词
2 def mysearch(request):
3     return render(request,'booktest/mysearch.html')

mysearch.html

1 <!DOCTYPE html>
 2 <html lang="en">
 3 <head>
 4     <meta charset="UTF-8">
 5     <title>mysearch</title>
 6 </head>
 7 <body>
 8     <form action="/search/" target="_blank" method="get">   <!--target="_blank"打开一个新的网页。 action="/search/" 指向search.html文件-->
 9         <input type="text" name="q">
10         <input type="submit" value="查询">
11     </form>
12 </body>
13 </html>

全文检索架构全文检索系统有哪些_全文检索