Využití knihovny scikit-learn pro zpracování a analýzu přirozeného jazyka (NLP), 3.část

Zdroj Zdroj: root.cz     26.11.2024 (00:00)     Sekcia it, počítače

Budeme se zabývat velmi často řešenou úlohou: analýzou, zda je předložený text spam nebo se jedná o jiný typ textu (ham). Při vektorizaci textu využijeme takzvané n-gramy. celý článek

 
Ďalšie články
 

Využití knihovny scikit-learn pro zpracování a analýzu přirozeného jazyka (NLP)

Zdroj Zdroj: root.cz     14.11.2024 (00:00)     Sekcia it-pocitace

V článcích o scikit-learn jsme se zabývali zpracováním a predikcí numerických dat. Ovšem v praxi je zapotřebí pracovat i s dokumenty psanými v přirozeném jazyce. I v takových případech najde scikit-learn své využití.

 

Využití knihovny scikit-learn pro zpracování a analýzu přirozeného jazyka (NLP), 2.část

Zdroj Zdroj: root.cz     21.11.2024 (00:00)     Sekcia it-pocitace

Dnes si vysvětlíme algoritmy pro vektorizaci jazykového korpusu, což je proces, při kterém se z jednotlivých textových dokumentů (každý dokument je představován řetězcem) konstruuje matice s numerickými hodnotami.

 

Datová analýza s využitím nástroje scikit-learn: první kroky

Zdroj Zdroj: root.cz     01.08.2024 (00:00)     Sekcia it-pocitace

Datová analýza je velmi zajímavý a neustále se rozvíjející se obor. Své místo v něm má i knihovna scikit-learn běžící v ekosystému jazyka Python. Dnes si představíme naprosté základy této knihovny.

 

Rozpoznávání obrázků knihovnou Scikit-learn: první kroky

Zdroj Zdroj: root.cz     28.11.2023 (00:00)     Sekcia it-pocitace

Dnes si ukážeme, jak využít knihovny Matplotlib, NumPy a Scikit-learn pro natrénování modelu určeného pro rozpoznávání obrázků. Zaměříme se přitom zejména na popis kooperace mezi těmito knihovnami.

 

Shluková analýza (clustering) a knihovna Scikit-learn (z plochy do 3D prostoru)

Zdroj Zdroj: root.cz     12.12.2023 (00:00)     Sekcia it-pocitace

Třetí článek o shlukové analýze prováděné s využitím knihovny Scikit-learn je zaměřen na problematiku výpočtu shlukové analýzy v trojrozměrném prostoru (a obecně i v prostorech s vyšším počtem dimenzí).

 

Balíček scikit-learn: modely provádějící klasifikaci

Zdroj Zdroj: root.cz     08.08.2024 (00:00)     Sekcia it-pocitace

Na úvodní článek o datové analýze s využitím knihovny scikit-learn dnes navážeme. Ukážeme si práci s modely provádějícími klasifikaci dat. Konkrétně se bude jednat o modely, které se „učí s učitelem“ – supervised learning.

 

Tokenizace textu: základní operace při zpracování přirozeného jazyka

Zdroj Zdroj: root.cz     12.03.2024 (00:00)     Sekcia it-pocitace

Seznámíme se s knihovnou Tiktoken, která umožňuje takzvanou tokenizaci textu. Jedná se o jednu ze základních operací používaných v systémech pro zpracování přirozeného jazyka, což je bouřlivě se rozvíjející oblast.

 

Shluková analýza (clustering) a knihovna Scikit-learn

Zdroj Zdroj: root.cz     05.12.2023 (00:00)     Sekcia it-pocitace

Knihovna Scikit-learn kromě modelů (a jejich tréninku) poskytuje i další nástroje. Jedním z užitečných nástrojů, které zde nalezneme, je podpora pro provádění takzvané shlukové analýzy (cluster analysis, clustering).

 

Knihovna FAISS a embedding: základ jazykových modelů

Zdroj Zdroj: root.cz     29.07.2025 (00:00)     Sekcia it-pocitace

Ukážeme si praktické použití knihovny FAISS, společně s embedding modely, které mj. umožňují vyhledávání v textech na základě sémantické podobnosti. S touto technologií se setkáme při zpracování přirozeného jazyka atd.

 

Balíček scikit-learn: trénink a předpovědi modelů provádějících regresní analýzu

Zdroj Zdroj: root.cz     22.08.2024 (00:00)     Sekcia it-pocitace

Dokončíme popis problematiky modelů provádějících regresní analýzu. Ukážeme si, jak tyto modely natrénovat, jak zjistit, které atributy způsobují špatné předpovědi modelu i to, jak zjistit atributy způsobující nestabilitu předpovědí.

FAISS: knihovna pro rychlé a efektivní vyhledávání podobných vektorů

Balíček scikit-learn: modely provádějící regresní analýzu

Lexikální a syntaktická zdrojových kódů jazyka Go

Neuronové sítě v knihovně scikit-learn (2.část)

Funkcionální programování v Pythonu s využitím knihovny Toolz (2. část)

pgvector : vektorová databáze postavená na Postgresu

Křížová validace modelů v knihovně scikit-learn

Rozpoznávání obrázků s knihovnou scikit-learn

Od projektu Scikit-learn ke knihovně PyTorch

Shluková analýza (clustering) a knihovna Scikit-learn (2)

Neuronové sítě v knihovně scikit-learn: dokončení

Neuronové sítě v knihovně scikit-learn: vytvoření a učení malé sítě

SQLite-vec: vektorové rozšíření databáze SQLite

Scikit-learn: jednoduchý a současně i univerzální model lineární regrese

Zpracování hodnot typu half float (fp16) na platformě AArch64

Propojení Pythonu s nativními knihovnami s využitím balíčku cffi (2)

Využití Redisu z jazyka Clojure pomocí knihovny Carmine

Redukce atributů v datových sadách před tréninkem modelů ve scikit-learn

Využití Redisu z jazyka Clojure pomocí knihovny Carmine (dokončení)

Lexikální a syntaktická analýza zdrojových kódů programovacího jazyka Python

Programovací jazyk R: práce s maticemi

Lexikální a syntaktická analýza zdrojových kódů jazyka Go (2.část)

„Mine englisch is well.“ DeepL Write používá AI k opravě anglických a německých vět

[aktualita] Plzeňský SentiSquare získává milion eur na vývoj no-code NLP softwaru

BaCon: transpřekladač z jazyka BASIC do jazyka C

Programová tvorba diagramů v jazyku Clojure s využitím knihovny Rhizome

Lua Fun: knihovna pro zpracování konečných i nekonečných sekvencí v jazyce Lua

Komunikace se sloupcovými databázemi z jazyka Go: Parquet soubory (dokončení)

IBM otevřela v Praze centrum pro využití umělé inteligence

Tvorba grafů a diagramů s využitím doménově specifického jazyka nástroje Graphviz (2.část)

Rufus 4.8 zrychluje analýzu instalačních obrazů Windows a tvorbu médií s Windows To Go

Moonscript: jazyk inspirovaný CoffeeScriptem určený pro ekosystém jazyka Lua (dokončení)

Pokročilý streaming založený na Apache Kafce, jazyku Clojure a knihovně Jackdaw (2. část)

[aktualita] Česká televize vypsala veřejnou zakázku na hloubkový audit nákladů