Under de senaste månaderna har olika exempel på att Google Home har svarat på förfrågningar med svar på tvivelaktig sannolikhet dykt upp över internet. Här är ett sådant exempel.
Och det här är vad som händer om du frågar Google Home "planerar Obama ett kupp?" pic.twitter.com/MzmZqGOOal
- Rory Cellan-Jones (@ ruskin147) 5 mars 2017
Problemet är att Google, för att optimera för röstbaserade svar, läser upp det bästa sökresultatet för en given fråga - utan att nödvändigtvis verifiera om den källan ger sanningsenliga svar. Enligt The Outline kommer problemet att bli värre eftersom fler människor investerar i röstbaserade AI-kompanjoner som tar bort användaren för att få kunskap:
Antalet webbläsarfria internetanslutna enheter växer snabbt och redan röstaktiverade assistenter som Amazon Echo och Google Home tränger igenom marknaden. Googles traditionella lista med sökresultat översätter inte bra till röst - föreställ dig att Google Home läser en lista med tio webbplatser när du bara vill veta hur många kalorier som är i en apelsin.
Google kan relativt enkelt spelas, och med tillräcklig manipulering kan en viss webbplats stiga till toppen av sökresultaten.
Frågorna uppstår när Google balanserar uppfattningen att dess sökmotor i sig är tillförlitlig - en majoritet av människor säger att de tror informationen de hittar på webbplatser som visas på första sidan av Google - med maskininlärningsalgoritmer som hjälper vissa informationsdelar att öka toppresultatet.
Möjligheten att läsa presenterade utdrag är också den viktigaste kännetecknen mellan Google Home och konkurrenter som Amazon Echo och Siri, säger Danny Sullivan från Search Engine Land. "Google ser det som en konkurrensfördel och de vill inte stänga av det, " sade han. Problemet är att även om de är fel, har de presenterade utdragen Googles högsta stöd. "Var är tipppunkten där du får tillräckligt med dessa pinsamma svar att du bestämmer dig för att stänga av den?"
Detta är ett mycket svårt problem att lösa. Google använder sin omfattande kunskapsgraf för att tillhandahålla vad den anser vara det bästa svaret på alla frågor, och dess största styrka - data, och att använda dem för att ge ett svar på praktiskt taget varje utredning - är också dess största ansvar. Det beror på att Google relativt enkelt kan spelas, och med tillräcklig manipulation kan en viss webbplats öka till sökresultaten. Google skiljer för närvarande inte mellan sin sökmotor - den text- och videobaserade listan över resultat som miljontals människor använder varje dag - och den från dess assistent, som ger svar på Google Home. På vägen kan det tvingas sammanfatta resultaten av mer vanliga frågor eller riskera att sprida innehåll som det inte nödvändigtvis står bakom.
Naturligtvis låtsar Google själv inte att godkänna något av dessa påståenden, och verifierar inte heller sanningen för de bästa resultaten som levereras till Home. Det säger att det är mycket tydligt i varje svar genom att förorda "Enligt" till varje svar. Men de flesta användare, för bättre eller sämre, skiljer inte Google från leverantören från Google till den pålitliga nyhetskällan, och det kommer att få företaget i problem eftersom fler av dessa kontroversiella exempel uppstår.
Vår egen Jerry Hildenbrand skrev om frågan om Google Home publicitet i en tidigare kolumn:
Det rätta sättet att ta itu med detta enligt Google är att rapportera det presenterade utdraget som olämpligt. Problemet är att det inte är olämpligt på en webbplats som inte läser den högt. Jag tror inte att sökningen förbättras genom att ta bort ett intressant resultat som visas längst upp så länge en läskig kvinnlig robotröst inte läser det högt för barnen. Och Google Home är utformat för att vara ute i öppet framför alla som gör sina saker. Det är inte längre privat när det kommer ut från högtalaren.
Det kommer till kärnan i problemet: människor kan bättre skilja det verkliga från det falska när de får en lista med alternativa resultat. När Google bara erbjuder ett enda definitivt resultat är det mer benägna att människor behandlar det som sanning.
Under tiden är Google Home på väg att lanseras i Storbritannien och har visat sig vara en av Googles största hårdvaruframgångar under de senaste åren.
