Natural Language Processing (Powerpoint)

Question 1

Vad är PageRank?

Answer 1

En algoritm som rankar hemsidor (web pages) baserat på deras importance och relevans.

Importance mäts baserat på Antalet och Kvaliten av länkar som pekar till den sidan.

Ett underliggande antagande är att viktigare hemsidor har är länkade till från flera andra hemsidor.

Question 2

Hur fungerar PageRank algorithmen?

Answer 2

Webben representeras som en riktad graf

• Varje web page tilldelas initialt “an equal” PageRank Value
• PageRanken uppdateras sedan iterativt för varje sida baserat på PageRank och andra sidor som länkar till sidan
• Finns också en dampening Factor som ser till att PageRank distributionen konvergerar
  
  • Är baserad på sannolikheten av att en användare fortsätter att klicka vidare på länkar
• Konvergens innebär att algoritmen fortsätter att uppdatera PageRank värden tills dess att förändringarna mellan iterationer faller under en viss tröskel och rankningen är då stabiliserad.

Question 3

Vad är Natural Language Processing?

Answer 3

Understanding och Generation of natural (human) language?

Subfield of AI that focuses on the interaction between computers and humans through natural language. The goal of NLP is to enable computers to understand, interpret, and respond to human language in a way that is both meaningful and useful.

Question 4

Vad är de huvudsakliga uppgifterna av NLP?

Answer 4

• Text Analysis
  
  • Speech recognition
  • Natural Language generation
  • Machine Translation
  • Sentiment Analysis
    ○ Determine sentiment or emotion expressed in a piece of text
  • Named Entitiy Recognition
    ○ Identifiera och klassifiera key elements in text, such as names of people, organizations, locations etc.
  • Question Answering
    
    • Text Summarization

Question 5

Key Stages of Processing Language (Traditional)

Answer 5

1. Lexical analysis
2. Syntactic Analysis
3. Semantic Analysis
4. Pragmatic Analysis

Question 6

Vad innebär Lexical Analysis?

Answer 6

• Breaks down the text into its basic units of meaning, known as tokens
• Tokens can be words, phrases or other meaningful elements
• Identify and classify parts of speach (nouns, verbs, adjectives, etc.)

Question 7

Syntactic Analysis

Answer 7

Checking for correct word order and hierarchical organization

Question 8

Semantic Analysis

Answer 8

• Understanding meaning of words and sentences.
• Goes beyond the structure to interpret the actual meaning
• Disambiguation, determine relationships between words and phrases

Question 9

Pragmatic Analysis

Answer 9

• Understanding language in context and interpreting the intended meaning based on situational factors
• Identifying speech acts
• Understanding deixis , impliations and inferred meanings behind the text

Question 10

Vad är Bag-Of-Words?

Answer 10

Technique in natural language processing for: Text Representation and Feature Extraction

Converts text into numberical feature vectors.

Question 11

Vad fokuserar BOW model på?

Answer 11

Focuses solely on the frequency of words in the text

Question 12

Hur fungerar BOW modelen?

Answer 12

1. Corpus Creation
   - Collect a set of documents to analyze
2. Vocabulary Building
   - Create a vocabulary of all unique words. Each unique word becomes a feature in the model
3. Tokenization
   - Tokenize each document in the corpus in to individual words/tokens
4. Vectorization
   - Skapar en vector där varje dimension correspons to a word in the vocabulary.
   - The value in each dimension is the frequency of the corresponding

Question 13

Vad används BOW modellen för?

Answer 13

• Text classification
  
  • Sentiment Analysis
  • Information Retrieval
  • Document Clustering

Question 14

Vilka är Algorithms for content analysis of documents?

Answer 14

1. Latent Semantic Analysis
2. Text Summarization
3. Named Entity Reconition (NER)
4. Sentiment Analysis

Question 15

Vad är Latent Semantic Analysis (LSA)?

Answer 15

Algorithm used for analyzing the content of a document.

Analyzes the relationship between words and phrases in a document to identify the underlying concepts
- Used to identify related terms, find synonyms and group similar documents together

Question 16

Vad är applikationer av LSA?

Answer 16

1. Information retrieval
   - Improve search accuracy by retrieving documents that are semantically related to the query, even if they do not contain the exact query terms
2. Document similarity
   - Used to measure the similarity between documents by comparing their positions in the reduced concept space
3. Text Summarization
   - Helps in identifying the main topics or concepts in a collection of documents, which can be used for summarization
4. Topic Modeling
   - Reveal underlying topics in a set of documents based on the patterns of term usage

Question 17

Vilka är stegen av LSA

Answer 17

Steps of LSA
1. Document-Term Matrix Creation
a. Rows - documents
b. Columns - Words
c. Each cell in the matrix represents the frequency of term in the document
2. Term Weighting
a. The raw frequency counts in the document-term matrix are typically transformed using term weighting schemes to reflext the importance of terms in documents
3. Singular Value Decomposition (SVD)
4. Dimensionality Reduction
5. Concept space representation

Question 18

Vad är Named Entity Recognition (NER)?

Answer 18

Algorithm used to analyze the content of documents.

Locate and classify named entities mentioned in unstructured text into pre-defined categories

Eg. Person, Organizations, monetary values etc.

Question 19

Vad är Sentiment Analysis?

Answer 19

Algorithm used for analyzing the content of a document.

Also known as Opinion Mining or Emotion AI

Uses NLP, text analysis,to systemtically identify, extract, quantify and study affective states and subjective information

Goal is to answer the question: “What do people feel about a certain topic?”

Question 20

Exempel på textanalytiska programvaror och deras funktion?

Answer 20

1. IBM Watson
   - Question answering computer system capable of answering questions posed in natural language
2. Gavagi Explorer
   - Extrahera meningar, följa ämnesspår, hitta förhållanden och rikta sig mot specifika målgrupper
3. Lexalytics
   - En textanalysplattform som kan hjälpa till att extrahera meningar, följa ämnesspår, hitta förhållanden och rikta sig mot specifika målgrupper.
4. Google Cloud Natural Language
   - En molntjänst för textanalys som kan hjälpa till att extrahera meningar, följa ämnesspår, hitta förhållanden och rikta sig mot specifika målgrupper.

Question 21

Vad är några algorithmer som mäter relationships in a web of documents (web pages)?

Answer 21

1. PageRank
2. HITS
3. SALSA
4. SimRank
5. TrustRank

Question 22

Vad är Bayes Sats?

Answer 22

• Sats inom sannolikhetsteorin som används för att bestämma betingade sannolikheter
  
  • Används till att kombinera insamlade, statistiska data med andra informationskällor

Question 23

Vad för algoritmer används för feature extraction?

Answer 23

Bag-of-Words (BoW)