Todennäköisyys- ja informaatioteoria (5 op)

Tavoitteet

Tiedät todennäköisyyteen ja informaatioteoriaan liittyviä peruskäsitteitä. Osaat tehdä päätöksiä käyttäen hyväksi satunnaismuuttujien todennäköisyysjakaumia. Osaat soveltaa informaatioteoriaa tietotekniikan alalla.

Sisältö

Mitä tarkoittaa otosavaruus, satunnaismuuttuja ja kuinka todennäköisyys määritellään?
Millaisia tunnettuja todennäköisyysjakaumia on määritelty satunnaismuuttujille?
Mitä tarkoittaa informaatioteoria?
Mitä tarkoittaa maksimaalisen entropian periaate?
Kuinka todennäköisyyttä ja informaatioteoriaa sovelletaan tietotekniikan alalla ja päätöksenteossa?

Opiskelumateriaali

To be settled at the course kick off. There will be book chapters, articles and other reading materials in Learn, provided by the teacher.

Opiskelumuodot ja -menetelmät

Scheduled track:
You participate in lectures and exercises according to the weekly schedule.

TKI ja työelämäyhteistyö

-

Tenttien ja tehtävien ajoittuminen

There are two exams: the midterm and final exams. See the assessment criteria for details on grading.

Opiskelijan työmäärä

135h of student work.

Toteutuksen osien kuvaus

This course is designed to give students a solid foundation in probability theory, statistics, and information theory, with an emphasis on how these areas interconnect. Students will learn to model uncertainty, analyze data, and understand how information is quantified, compressed, and transmitted.

Course Outcomes:
By the end of the course, students will:

Have a foundational understanding of probability, statistics, and information theory.
Be able to model uncertainty, analyze data, and understand the basic principles of data compression and communication.
Be able to apply these concepts to real-world problems in fields such as data science, telecommunications, and IT.

Arviointiasteikko

1-5

Arviointimenetelmät ja arvioinnin perusteet

The course grade is 1-5.

Assessment:
- Homework Assignments (40%): Weekly assignments covering probability, statistics, and information theory.
- Midterm Exam (20%): Assessment of probability and introductory statistics concepts.
- Final Exam (30%): Comprehensive exam covering all topics, with emphasis on connections between probability, statistics, and information theory.
- Final Project (10%): A small case study where students choose a real-world problem involving probability, statistics, or information theory (e.g., analyzing data from a survey, simulating a communication system).

Esitietovaatimukset

Edellytetään perustiedot joukoista, Boolen algebroista sekä differentiaali- ja integraalilaskennasta.