Kuvat, ääni ja teksti — kun sanat eivät riitä
TeoriaTeoria n. 10 min · harjoittelu n. 16 min · yhteensä n. 26 min

Kuvat, ääni ja teksti — kun sanat eivät riitä

Johdanto: anna mallille se havainto, jota tehtävä vaatii

Jos pyydät tekoälyä selittämään kaaviota mutta kuvailet kaavion vain muistisi varassa, osa tiedosta katoaa jo ennen kuin työ alkaa. Jos taas haluat korjata yhden virkkeen ja lähetät siitä epätarkan kuvakaappauksen, valitset tehtävään hankalamman aineistomuodon kuin tarvitset.

Tämän tunnin ajatus on yksinkertainen: valitse aineistomuoto sen perusteella, mitä tekoälyn pitää havaita. Kuva ei ole aina tekstiä parempi. Ääni ei ole aina kuvaa rikkaampi. Useampi aineisto ei automaattisesti paranna vastausta. Hyvä käyttäjä tunnistaa, mikä tieto on tehtävän kannalta olennaista ja missä muodossa se säilyy parhaiten.

Tunnin ydinkysymys: Mitä mallin pitää nähdä, kuulla tai lukea, jotta se voi auttaa — ja mitä aineistosta ei pidä lähettää lainkaan?

sama tieto kahdessa muodossa — tehtävä ratkaisee kumpi voittaa
KUVION MOBIILIESITYS
  • TEHTÄVÄ 1 · tarkka muutos: kaaviosta arvio, taulukosta tarkka +44,4 % → piste taulukolle
  • TEHTÄVÄ 2 · harhaanjohtava asteikko: näkyy kaaviosta, ei taulukosta → piste kuvalle
  • Kumpikin muoto voitti kerran — muoto valitaan tehtävän mukaan
  • Tarkista havainto lopuksi alkuperäisestä aineistosta
Aineistomuoto ei ole koriste. Kaaviosta hahmottaa suunnan ja esitystavan valinnat, taulukko säilyttää tarkat arvot laskentaan. Sama aineisto — kumpikin muoto voittaa oman tehtävänsä. Tarkista havainto lopuksi alkuperäisestä aineistosta.

Multimodaalisuus tarkoittaa useita tietomuotoja

Modaliteetti tarkoittaa tietomuotoa, kuten tekstiä, kuvaa tai ääntä. Multimodaalinen malli pystyy käsittelemään useampaa kuin yhtä tietomuotoa. Se voi esimerkiksi lukea käyttäjän kysymyksen ja tarkastella siihen liitettyä valokuvaa.

Käytännössä useimmat tunnetut keskustelupalvelut ovat nykyään multimodaalisia: ChatGPT, Claude, Microsoft Copilot ja Google Gemini pystyvät kaikki käsittelemään sekä tekstiä että kuvaa, ja osa myös ääntä. Se ei tarkoita, että ne olisivat yhtä hyviä kaikissa muodoissa — ja juuri sitä tämän tunnin vertailukoe selvittää.

Eri muodot säilyttävät eri asioita:

Aineistomuoto Mitä se säilyttää hyvin? Mitä siitä voi kadota?
Teksti Tarkka sanamuoto, nimet, luvut ja muokattavuus Ulkoasu, sijainti ja visuaaliset suhteet
Kuva Sommittelu, sijainti, muodot, värit ja näkyvä kokonaisuus Pienen tekstin tarkkuus ja kuvan ulkopuolinen tapahtuma
Taulukko Rivien, sarakkeiden ja lukujen rakenne Alkuperäisen tilanteen tai mittauksen tausta
Ääni Puhe, tauot, ääntämys ja keskustelun ajallinen kulku Puhujan tarkoitus ei selviä varmasti pelkästä äänensävystä
Dokumentti Pitkä rakenne, otsikot, kappaleet ja lähdeyhteys Skannatun tai huonosti jäsennetyn tiedoston sisältö voi tulkkiutua väärin

Valinta alkaa kysymyksestä, ei tiedostosta. Jos haluat mallin arvioivan painikkeiden sijoittelua, kuva on olennainen. Jos haluat muokata painikkeen tekstiä, kopioitu teksti on tarkempi. Jos haluat tarkastella myynnin kehitystä, alkuperäinen taulukko on usein parempi kuin kuva pylväsdiagrammista.

Teksti sopii tarkkaan sisältöön ja muokkaamiseen

Käytä tekstiä, kun sanamuodon, lukujen tai rakenteen pitää säilyä täsmällisenä. Tekstiä voi lainata, hakea, vertailla ja muokata suoraan.

Ajattele vaikka viestiä, jonka sävyä haluat muuttaa, tai ohjetta, josta tarvitset selkokielisen version. Kun annat alkuperäisen tekstin mallille tekstinä, jokainen sana säilyy tarkasteltavana. Sama koskee laskennassa tarvittavia taulukkoarvoja, virheilmoituksen täsmällistä sanamuotoa sekä koodia, jota pitää muokata rivi riviltä. Kuvakaappaus voi näyttää nämä asiat, mutta se lisää turhaan yhden tulkintavaiheen: mallin pitää ensin lukea kuvassa oleva teksti oikein.

Pelkkä aineisto ei kuitenkaan kerro tavoitetta. Lisää aina lyhyt tehtävänanto: mitä aineistosta tarkastellaan, kenelle tulos tehdään ja missä muodossa vastaus tarvitaan.

Kuva sopii näkyvien suhteiden tarkasteluun

Kuva on hyödyllinen silloin, kun ongelma sijaitsee asioiden välisissä suhteissa: mikä on minkä vieressä, mikä puuttuu, miten kokonaisuus on jäsennelty tai mitä ympäristössä näkyy. Sovelluksen päällekkäiset painikkeet tai kaavion epäselvä selite on helpompi havaita kuvasta kuin pitkästä kuvauksesta. Samoin laitteen merkkivalot, pakkauksen kuvan ja tekstin yhteys tai käsin kirjoitetun muistiinpanon rakenne voivat olla juuri sitä tietoa, joka katoaisi pelkäksi tekstiksi muutettuna.

Hyvä kuvapyyntö kertoo kolme asiaa:

  1. Tilanne: Mistä kuva on ja miksi se on otettu?
  2. Kohde: Mitä kohtaa mallin pitää tarkastella?
  3. Tehtävä: Mitä haluat mallin selittävän, vertaavan tai ehdottavan?

Esimerkiksi: ”Tämä on kuvakaappaus ilmoittautumissivusta puhelimella. Tarkastele vain lomakkeen rakennetta. Mitkä kaksi kohtaa vaikeuttavat käyttäjän etenemistä? Älä päättele kuvasta henkilön ominaisuuksia.”

Taulukko on usein kuvaa parempi numeroille

Kaavio näyttää kehityksen nopeasti, mutta alkuperäinen taulukko kertoo arvot tarkemmin. Jos tehtävä vaatii laskemista, poikkeamien etsimistä tai rivien vertailua, anna taulukko mieluiten rakenteisessa muodossa.

Jos tehtävässä tarvitaan sekä yleiskuvaa että täsmällisiä lukuja, muodot voi yhdistää tarkoituksellisesti. Kaavion kuva näyttää esitystavan ja kehityssuunnan, alkuperäinen taulukko antaa tarkat arvot ja lyhyt teksti kertoo, mitä päätöstä varten analyysi tehdään. Tämä ei tarkoita, että mukaan lisätään kaikki mahdollinen aineisto. Jokaisella liitteellä pitää olla nimetty tehtävä.

Ääni säilyttää ajallisen kulun

Ääntä kannattaa käyttää, kun kiinnostuksen kohde on puheessa tai tapahtumien järjestyksessä. Esimerkiksi ääntämisen harjoittelu, kokouksen puheenvuorojen jäsentäminen tai haastattelun litterointi perustuvat tietoon, jota pelkkä jälkikäteen kirjoitettu yhteenveto ei säilytä.

Ääni ei kuitenkaan ole varma ikkuna ihmisen tunteisiin tai tarkoituksiin. Malli voi tulkita tauon, painotuksen tai puhujan asenteen väärin. Siksi turvallinen tehtävä kohdistuu havaittavaan asiaan. Voit pyytää mallia kirjoittamaan puheen tekstiksi ja merkitsemään epäselvät kohdat, tunnistamaan aiheen vaihtumisen tai vertaamaan ääntämystä annettuun malliin.

Vältä perusteettomia päätelmiä puhujan terveydestä, luonteesta, rehellisyydestä tai tunnetilasta.

Vertailukoe paljastaa, mitä aineisto lisää

Tämän tunnin tehtävässä annat saman ongelman kahdessa eri aineistomuodossa. Kokeen tarkoitus ei ole todistaa, että toinen muoto voittaa. Tarkoitus on tunnistaa, mitä uutta havaittavaa tietoa aineistomuodon vaihtaminen toi.

Jotta vertailu kertoisi aineistomuodon vaikutuksesta, pidä mahdollisimman samoina:

  • tehtävä
  • taustatieto
  • tavoiteltu vastausmuoto
  • malli ja keskustelun lähtötilanne.

Muuten et tiedä, johtuiko ero aineistosta vai jostakin muusta muutoksesta.

Vertaa vastauksia nimetyillä kriteereillä. Löysikö toinen muoto sellaisen suhteen, jota toinen ei sisältänyt? Lukiko malli pienen tekstin väärin tai hävisikö litteroinnissa jotakin olennaista? Keskittyikö se epäolennaiseen yksityiskohtaan? Hyvä johtopäätös voi olla myös se, että yksinkertaisempi aineistomuoto riitti paremmin.

Enemmän aineistoa ei tarkoita parempaa vastausta

Ylimääräinen aineisto voi lisätä kohinaa, kuluttaa konteksti-ikkunaa ja ohjata huomion pois olennaisesta. Valitse siksi pienin aineistokokonaisuus, joka säilyttää tehtävässä tarvittavan tiedon.

Kysy jokaisesta liitteestä:

  • Mitä uutta tämä tuo?
  • Riittääkö tiedostosta rajattu kohta?
  • Voiko tarkan sisällön antaa turvallisemmin tekstinä?
  • Miten tarkistan mallin tekemän tulkinnan?

Turvallisuus ratkaistaan ennen lähettämistä

Kuva voi sisältää nimiä, kasvoja, osoitteita, ilmoituksia ja avoimia välilehtiä. Äänite voi sisältää sivullisten puhetta. Dokumentin metatiedoissa tai taulukon piilotetuissa sarakkeissa voi olla tietoa, jota et huomaa ensisilmäyksellä.

Ennen lähettämistä:

  1. varmista, että aineiston käyttö on sallittu
  2. rajaa mukaan vain tehtävässä tarvittava osa
  3. poista henkilötiedot, salaisuudet ja tarpeettomat tunnisteet
  4. tarkista myös kuvan reunat, tiedoston muut välilehdet ja äänen taustapuhe
  5. käytä organisaation hyväksymää palvelua

Pelkkä peittäminen ei aina riitä, jos alkuperäinen tieto jää tiedostoon palautettavaksi. Tee jaettavaan käyttöön erillinen kopio ja tarkista se ennen lähettämistä.

Mallin havainto pitää edelleen tarkistaa

Multimodaalinen malli voi lukea tekstin väärin, sekoittaa kaavion sarjat, jättää osan kuvasta huomiotta tai litteroida nimen virheellisesti. Siksi vastaus ei ole todiste aineistosta.

Tarkista tärkeä havainto alkuperäisestä materiaalista. Pyydä mallia tarvittaessa osoittamaan, mihin kuvan kohtaan, taulukon riviin tai äänitteen aikaleimaan havainto perustuu. Jos perustetta ei löydy, älä käytä väitettä päätöksen pohjana.

Yhteenveto

Valitse aineistomuoto sen mukaan, mitä tehtävässä pitää havaita:

  • teksti säilyttää tarkan sisällön ja helpottaa muokkaamista
  • kuva näyttää näkyvät suhteet ja kokonaisuuden
  • taulukko pitää luvut rakenteisina
  • ääni säilyttää puheen ajallisen kulun
  • dokumentti pitää pidemmän lähdeaineiston rakenteen ja asiayhteyden koossa.

Yhdistä muotoja vain silloin, kun jokainen tuo tehtävään oman tarpeellisen havaintonsa. Rajaa aineisto, suojaa tiedot ja tarkista mallin tulkinta alkuperäisestä lähteestä. Näin multimodaalisuus ei tarkoita mahdollisimman monen liitteen lähettämistä, vaan harkittua tapaa antaa mallille juuri se tieto, jota työ vaatii.

Lopuksi pohdittavaksi: Minkä tiedon menetät, jos muutat aineiston toiseen muotoon — ja onko juuri se tieto tehtäväsi kannalta olennainen?


Lähteet ja tarkistuspäivä

Tarkistettu 20.7.2026.

Seuraavaksi: Harjoittele4 tehtävää