Wie beitreten (merge) Datenrahmen (innen, außen, links, rechts)
Frage
Bei zwei Datenrahmen:
df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))
df1
# CustomerId Product
# 1 Toaster
# 2 Toaster
# 3 Toaster
# 4 Radio
# 5 Radio
# 6 Radio
df2
# CustomerId State
# 2 Alabama
# 4 Alabama
# 6 Ohio
Wie kann ich Datenbank-Stil zu tun, das heißt, SQL-Stil, Joins? Das heißt, wie bekomme ich:
- Ein Exklusionsverknüpfung von
df1
unddf2
:
Rückkehr nur die Zeilen, in denen die linke Tabelle in der rechten Tabelle passende Schlüssel hat. - Ein Outer-Joins von
df1
unddf2
:
Gibt alle Zeilen aus beiden Tabellen, verbinden sie Aufzeichnungen von links, die Tasten in der rechten Tabelle haben übereinstimmen. - linke äußere (oder einfach beitreten links) von
df1
unddf2
Gibt alle Zeilen aus der linken Tabelle, und alle Zeilen mit Schlüsseln aus der rechten Tabelle entsprechen. - rechten Außen von
df1
unddf2
beitreten Gibt alle Zeilen aus der rechten Tabelle, und alle Zeilen mit Schlüsseln aus der linken Tabelle entsprechen.
Zusatzkredit:
Wie kann ich eine SQL-Stil select-Anweisung tun?
Lösung
Durch die Verwendung der merge
Funktion und deren optionale Parameter:
Inner Join: merge(df1, df2)
wird für diese Beispiele arbeiten, weil R automatisch den Rahmen von gemeinsamen Variablennamen verbindet, aber Sie würden wahrscheinlich wollen merge(df1, df2, by = "CustomerId")
angeben, um sicherzustellen, dass Sie wurden passend auf nur einige Felder gewünscht. Sie können auch die by.x
und by.y
Parameter verwenden, wenn die passenden Variablen verschiedene Namen in den verschiedenen Datenrahmen haben.
Outer Join: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)
Links außen: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)
Rechts außen: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)
Cross verbinden: merge(x = df1, y = df2, by = NULL)
Genau wie bei der inneren Verknüpfung, würden Sie wahrscheinlich wollen explizit „CustomerId“ bis R als die passende Variable übergeben. Ich denke, es ist fast immer am besten, um explizit die Kennungen angeben, auf dem Sie möchten verschmelzen; es ist sicherer, wenn die Eingabe unerwartet und leichter ändern data.frames später zu lesen.
Sie können, indem sie by
einen Vektor, beispielsweise by = c("CustomerId", "OrderId")
auf mehreren Säulen verschmelzen.
Wenn die Spaltennamen auf fusionieren sind nicht die gleiche, können Sie angeben, zum Beispiel by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2"
wo CustomerId_in_df1
ist der Name der Spalte in dem ersten Datenrahmen und CustomerId_in_df2
ist der Name der Spalte in dem zweiten Datenrahmen. (Diese können auch Vektoren sein, wenn Sie auf mehrere Spalten fusionieren müssen.)
Andere Tipps
Ich würde empfehlen, Check-out Gabor Grothendiecks sqldf Paket , die Ihnen erlaubt, diese Vorgänge in SQL zum Ausdruck bringen.
library(sqldf)
## inner join
df3 <- sqldf("SELECT CustomerId, Product, State
FROM df1
JOIN df2 USING(CustomerID)")
## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State
FROM df1
LEFT JOIN df2 USING(CustomerID)")
Ich finde die SQL-Syntax einfacher und natürlicher als die R äquivalent zu sein (dies kann aber nur mein RDBMS Bias reflektiert).
SieheGabor sqldf GitHub für weitere Informationen über beitritt.
Es ist die data.table Ansatz für eine innere Verknüpfung, die sehr zeit- und speichereffizient ist (und notwendig für einige größere data.frames):
library(data.table)
dt1 <- data.table(df1, key = "CustomerId")
dt2 <- data.table(df2, key = "CustomerId")
joined.dt1.dt.2 <- dt1[dt2]
merge
funktioniert auch auf data.tables (wie es allgemein ist, und fordert merge.data.table
)
merge(dt1, dt2)
data.table auf Stackoverflow dokumentiert:
Wie eine data.table Mischoperation tun < br>
Translating SQL-Joins auf Fremdschlüssel R-Daten. Tabelle Syntax
Effiziente Alternativen für größere data.frames R zu fusionieren
Wie eine grundlegende links zu tun Außen mit data.table in R verbinden?
Eine weitere Option ist die join
Funktion in der plyr Paket
library(plyr)
join(df1, df2,
type = "inner")
# CustomerId Product State
# 1 2 Toaster Alabama
# 2 4 Radio Alabama
# 3 6 Radio Ohio
Optionen für type
. inner
, left
, right
, full
Von ?join
. Im Gegensatz zu merge
[join
] bewahrt die Reihenfolge der x, egal was Join-Typ verwendet wird,
Sie können Joins auch tun Hadley Wickham ehrfürchtige dplyr Paket.
library(dplyr)
#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)
Mutating verbindet: Spalten hinzufügen mit Treffern in df2 df1
#inner
inner_join(df1, df2)
#left outer
left_join(df1, df2)
#right outer
right_join(df1, df2)
#alternate right outer
left_join(df2, df1)
#full join
full_join(df1, df2)
Filtern verbinden: auszufiltern Zeilen in df1, nicht ändern Spalten
semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.
Es gibt einige gute Beispiele, dies zu tun in der über R Wiki . Ich werde ein paar stehlen hier:
Merge-Methode
Da Ihre Schlüssel sind die gleich den kurzen Weg namens einem inneren zu tun Join fusionieren ():
merge(df1,df2)
ein vollständige innere Verknüpfung (alle Datensätze aus beiden Tabellen) mit dem „all“ Schlüsselwort erstellt werden:
merge(df1,df2, all=TRUE)
eine linke äußere Verknüpfung von DF1 und DF2:
merge(df1,df2, all.x=TRUE)
eine rechte äußere Verknüpfung von DF1 und DF2:
merge(df1,df2, all.y=TRUE)
Sie können Flip 'em, schlagen' em und reiben ‚em die beiden anderen runter Outer-Joins Sie gefragt:)
Subscript Methode
Eine äußere linke Seite mit DF1 auf der linken Seite verbinden, um eine Index-Methode wäre:
df1[,"State"]<-df2[df1[ ,"Product"], "State"]
Die andere Kombination von äußeren Joins können durch mungling die linke äußere Verknüpfung Index Beispiel erstellt werden. (Ja, ich weiß, das ist das Äquivalent zu sagen: „Ich kann es als eine Übung für den Leser überlassen werden ...“)
Neu im Jahr 2014:
Vor allem, wenn Sie in Datenmanipulation im Allgemeinen auch interessiert sind (einschließlich Sortierung, Filterung, subsetting, Zusammenfassung etc.), sollten Sie unbedingt einen Blick auf dplyr
nehmen, die mit einer Vielzahl von Funktionen kommen alle entworfen, um Ihre Arbeit zu erleichtern speziell mit Datenrahmen und bestimmte andere Datenbanktypen. Es bietet sogar eine recht aufwändige SQL-Schnittstelle, und sogar eine Funktion zu konvertieren (die meisten) SQL-Code direkt in R.
Die vier Verbindungsbezogenen Funktionen im dplyr Paket sind (Zitat):
-
inner_join(x, y, by = NULL, copy = FALSE, ...)
: return alle Zeilen aus x, wo es Werte in y, und alle Spalten von x und y passend
-
left_join(x, y, by = NULL, copy = FALSE, ...)
: return alle Zeilen aus x, und alle Spalten von x und y -
semi_join(x, y, by = NULL, copy = FALSE, ...)
: return alle Zeilen aus x, wo es passende Werte in y, halten nur Spalten von x. -
anti_join(x, y, by = NULL, copy = FALSE, ...)
: return alle Zeilen von x wo es keine Werte in y übereinstimmt, halten nur Spalten von x
Es ist alles hier im Detail.
Die Auswahl Spalten können durch select(df,"column")
erfolgen. Wenn das für Sie nicht SQL-ish genug ist, dann gibt es die sql()
Funktion, in die Sie SQL-Code eingeben, wie sie ist, und es wird die Operation tun Sie gerade angegeben, wie Sie in R entlang (für weitere Informationen schreiben würden, bitte beziehen sich auf die dplyr / Datenbanken Vignette ). Zum Beispiel wird, wenn es richtig angewandt wird, sql("SELECT * FROM hflights")
wählen Sie alle Spalten aus dem „hflights“ dplyr Tisch (ein „TBL“).
Update auf data.table Methoden für Datensätze verbinden. Im folgenden sehen Sie Beispiele für jede Art von beizutreten. Es gibt zwei Methoden, ein aus [.data.table
wenn zweitem data.table als erstes Argument Passieren der Teilmenge, eine andere Art und Weise ist merge
Funktion zu verwenden, die data.table Verfahren zum schnellen entsendet.
df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join
library(data.table)
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]
setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]
# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]
# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]
# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]
# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")
# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)
# see ?merge.data.table arguments for other cases
Unter Benchmark-Tests Basis R, sqldf, dplyr und data.table.
Benchmark-Tests unverkeilten / unindexed Datensätze.
Benchmark durchgeführt wird, auf 50 M-1 Zeilen Datensätze gibt es 50M-2 gemeinsame Werte auf Joinspalte so jedes Szenario (innere, links, rechts, volle) getestet werden kann, und kommen immer noch nicht trivial auszuführen. Es ist Art von Algorithmen verbinden, die auch Stress verbinden. Timings sind wie von sqldf:0.4.11
, dplyr:0.7.8
, data.table:1.12.0
.
# inner
Unit: seconds
expr min lq mean median uq max neval
base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266 1
sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388 1
dplyr 51.91233 51.91233 51.91233 51.91233 51.91233 51.91233 1
DT 10.40552 10.40552 10.40552 10.40552 10.40552 10.40552 1
# left
Unit: seconds
expr min lq mean median uq max
base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030
sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109
dplyr 49.711912 49.711912 49.711912 49.711912 49.711912 49.711912
DT 9.674348 9.674348 9.674348 9.674348 9.674348 9.674348
# right
Unit: seconds
expr min lq mean median uq max
base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301
sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157
dplyr 50.384841 50.384841 50.384841 50.384841 50.384841 50.384841
DT 9.899145 9.899145 9.899145 9.899145 9.899145 9.899145
# full
Unit: seconds
expr min lq mean median uq max neval
base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464 1
dplyr 94.66436 94.66436 94.66436 94.66436 94.66436 94.66436 1
DT 21.62573 21.62573 21.62573 21.62573 21.62573 21.62573 1
Beachten Sie gibt es andere Arten von Verknüpfungen können Sie durchführen data.table
mit:
- Update auf beitreten - wenn Sie Werte aus einer anderen Tabelle zu Ihrer Haupttabelle
Nachschlag wollen
- Aggregat auf beitreten - wenn Sie auf Schlüssel aggregieren möchten Sie beitreten, Sie müssen nicht materialisieren alle Ergebnisse beitreten
- überlappende beitreten - wenn Sie durch Bereiche zusammenführen möchten
- rollen verbinden - wenn Sie zusammenführen möchten aus vorhergehenden / folgenden Zeilen auf Werte in der Lage sein zu entsprechen, indem sie vorwärts oder rückwärts rollen
- nicht-equi beitreten - wenn Ihre Joinbedingung ist nicht gleich
-Code zu reproduzieren:
library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)
n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
mb = list()
# inner join
microbenchmark(times = 1L,
base = merge(df1, df2, by = "x"),
sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
dplyr = inner_join(df1, df2, by = "x"),
DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner
# left outer join
microbenchmark(times = 1L,
base = merge(df1, df2, by = "x", all.x = TRUE),
sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
dplyr = left_join(df1, df2, by = c("x"="x")),
DT = dt2[dt1, on = "x"]) -> mb$left
# right outer join
microbenchmark(times = 1L,
base = merge(df1, df2, by = "x", all.y = TRUE),
sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
dplyr = right_join(df1, df2, by = "x"),
DT = dt1[dt2, on = "x"]) -> mb$right
# full outer join
microbenchmark(times = 1L,
base = merge(df1, df2, by = "x", all = TRUE),
dplyr = full_join(df1, df2, by = "x"),
DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full
lapply(mb, print) -> nul
dplyr seit 0.4 implementiert alle, schließt sich einschließlich outer_join
, aber es war bemerkenswert, dass für die ersten paar Versionen vor 0.4 es nicht verwendet outer_join
anbieten zu können, und als Folge gibt es eine Menge wirklich schlecht Hacky Abhilfe Benutzercode im Umlauf für eine ganze Weile danach (Sie noch einen solchen Code in sO finden, Kaggle Antworten, github aus dieser Zeit. Daher ist diese Antwort dient nach wie vor einen nützlichen Zweck.)
Join-bezogene # :
- Handling für POSIXct Typ, Zeitzonen, Dubletten, unterschiedliche Faktorstufen. Bessere Fehler und Warnungen.
- Argument New Suffix zu steuern, welche dupliziert Suffix Variablennamen erhalten (# 1296)
- Implement direkt anschließen und äußere Verknüpfung (# 96)
- Mutating verbindet, die von passenden Zeilen in einem anderen zu einer Tabelle neue Variablen hinzufügen. Filtering verbindet, die Filter Beobachtungen aus einer Tabelle basierend auf, ob sie eine Beobachtung in der anderen Tabelle übereinstimmen.
- kann nun durch verschiedene Variablen in jeder Tabelle left_join: df1%>% left_join (DF2, c ( "var1" = "var2"))
- * _ join () nicht mehr Spaltennamen (# 324) neu ordnet
v0.1.3 (4/2014)
- hat inner_join, left_join, semi_join, anti_join
- outer_join noch nicht implementiert, Rückfall ist die Verwendung Basis :: merge () (oder plyr :: join ())
- hat noch nicht implementieren right_join und outer_join
- Hadley Erwähnen andere Vorteile hier
- eine kleinere Funktion verschmelzen zur Zeit, dass dplyr hat nicht die Fähigkeit, durch getrennte zu haben. x, by.y Spalten wie zB Python Pandas tut.
Umgehungen pro Hadleys Kommentare in dieser Ausgabe:
- right_join (x, y) ist die gleiche wie left_join (y, x) in Bezug auf die Reihen, nur werden die Spalten unterschiedliche Aufträge sein. Leicht gearbeitet um mit select (new_column_order)
- outer_join ist im Grunde Union (left_join (x, y), right_join (x, y)) - d. H alle Zeilen in den beiden Datenrahmen erhalten
In Verbindung von zwei Datenrahmen mit ~ 1 Million Zeilen je eines mit 2 Spalten und das andere mit ~ 20 habe ich überraschenderweise merge(..., all.x = TRUE, all.y = TRUE)
gefunden dann dplyr::full_join()
schneller zu sein. Dies ist mit dplyr v0.4
Merge nimmt ~ 17 Sekunden full_join dauert ~ 65 Sekunden.
Einige Lebensmittel für obwohl, da ich in der Regel dplyr für Manipulationsaufgaben Standard.
Für den Fall eines LEFT JOIN mit einer 0..*:0..1
Mächtigkeit oder ein Recht kommt mit einer 0..1:0..*
Mächtigkeit ist es möglich, an Ort und Stelle der einseitigen Spalten aus den Schreinern (die 0..1
Tabelle) direkt auf die joinee (die 0..*
Tabelle) zuweisen und dadurch die Schaffung einer völlig neuen Tabelle von Daten zu vermeiden. Dies erfordert die Schlüsselspalten von der joinee in den Schreiner und Indizierung + passend zu den Reihen Tischler Bestellung entsprechend für die Zuordnung.
Wenn Sie die Taste eine einzelne Spalte ist, dann können wir einen einzigen Aufruf von match()
die Anpassung zu tun. Dies ist der Fall, dass ich in dieser Antwort behandeln werden.
Hier ist ein Beispiel auf dem OP basiert, außer ich eine zusätzliche Zeile df2
mit einer ID von 7 hinzugefügt habe den Fall eines nicht passenden Schlüssel in dem Tischler zu testen. Dies ist effektiv df1
links df2
verbinden:
df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
## CustomerId Product State
## 1 1 Toaster <NA>
## 2 2 Toaster Alabama
## 3 3 Toaster <NA>
## 4 4 Radio Alabama
## 5 5 Radio <NA>
## 6 6 Radio Ohio
In der obigen ich eine Annahme hartcodiert, dass die Schlüsselspalte in der ersten Spalte der beiden Eingangs Tabellen ist. Ich würde, dass im Allgemeinen argumentieren, dies ist keine unvernünftige Annahme, da, wenn Sie einen data.frame mit einer Schlüsselspalte haben, wäre es seltsam, wenn es nicht als erste Spalte des data.frame eingerichtet worden von der Anfang. Und Sie können immer die Spalten neu anordnen, um es so zu machen. Eine vorteilhafte Folge dieser Annahme ist, dass der Name des Schlüsselspalts nicht hartcodiert, sein muss, obwohl ich glaube, es nur mit einem anderen Annahme ist zu ersetzen. Prägnanz ist ein weiterer Vorteil von ganzzahligen Indexierungs sowie Geschwindigkeit. In den Benchmarks unten Ich werde die Implementierung ändern string name Indizierung zu verwenden, um die konkurrierenden Implementierungen entsprechen.
Ich denke, dies ist eine besonders geeignete Lösung, wenn Sie mehrere Tabellen, die Sie kommen mit einem einzelnen großen Tisch verlassen wollen. Wiederholt die gesamte Tabelle unnötig und ineffizient wäre für jeden merge wieder aufzubauen.
Auf der anderen Seite, wenn Sie die joinee müssen aus irgendeinem Grunde unverändert durch diesen Vorgang bleiben, dann kann diese Lösung nicht verwendet werden, da sie die joinee direkt modifiziert. Obwohl in diesem Fall können Sie einfach eine Kopie erstellen und die Vor-Ort-Zuordnung (en) auf der Kopie durchzuführen.
Als Randbemerkung, ich in mögliche passenden Lösungen für mehrspaltigen Schlüssel kurz sah. Leider habe ich die einzigen passenden Lösungen gefunden wurden:
- ineffizient Verkettungen. z.B.
match(interaction(df1$a,df1$b),interaction(df2$a,df2$b))
oder die gleiche Idee mitpaste()
. - ineffizient kartesische Konjunktionen, z.B.
outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`)
. - base R
merge()
und äquivalente Paket-basierte merge Funktionen, die immer eine neue Tabelle zuteilen das fusionierte Ergebnis zurückzugeben, und sind somit nicht geeignet für eine In-Place-Zuordnung basierende Lösung.
Zum Beispiel finden Sie unter mehr Spalten auf verschiedenen Datenrahmen Passende und andere Spalt als Ergebnis bekommen, Spiel zwei Spalten mit zwei anderen Spalten , Passende auf mehrere Spalten und der Betrogene dieser Frage, woher ich komme ursprünglich mit der in-Place-Lösung auf, mit unterschiedlicher Anzahl von Zeilen in R zwei Datenrahmen kombinieren.
Benchmarking
Ich beschloss, mein eigenes Benchmarking zu tun, um zu sehen, wie der Vor-Ort-Zuordnung Ansatz zu den anderen Lösungen vergleicht, die in dieser Frage angeboten wurde.
Testing Code:
library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);
solSpecs <- list(
merge=list(testFuncs=list(
inner=function(df1,df2,key) merge(df1,df2,key),
left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
full =function(df1,df2,key) merge(df1,df2,key,all=T)
)),
data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
)),
data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
)),
sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
)),
sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
)),
plyr=list(testFuncs=list(
inner=function(df1,df2,key) join(df1,df2,key,'inner'),
left =function(df1,df2,key) join(df1,df2,key,'left'),
right=function(df1,df2,key) join(df1,df2,key,'right'),
full =function(df1,df2,key) join(df1,df2,key,'full')
)),
dplyr=list(testFuncs=list(
inner=function(df1,df2,key) inner_join(df1,df2,key),
left =function(df1,df2,key) left_join(df1,df2,key),
right=function(df1,df2,key) right_join(df1,df2,key),
full =function(df1,df2,key) full_join(df1,df2,key)
)),
in.place=list(testFuncs=list(
left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
))
);
getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];
initSqldf <- function() {
sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
sqldf(); ## creates a new connection
} else {
assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
}; ## end if
invisible();
}; ## end initSqldf()
setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
callExpressions <- list();
nms <- character();
for (solType in solTypes) {
testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
if (is.null(testFunc)) next; ## this join type is not defined for this solution type
testFuncName <- paste0('tf.',solType);
assign(testFuncName,testFunc,envir=env);
argSpecKey <- solSpecs[[solType]]$argSpec;
argSpec <- getArgSpec(argSpecs,argSpecKey);
argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
for (i in seq_along(argSpec$args)) {
argName <- paste0('tfa.',argSpecKey,i);
assign(argName,argSpec$args[[i]],envir=env);
argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
}; ## end for
callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
nms[length(nms)+1L] <- solType;
}; ## end for
names(callExpressions) <- nms;
callExpressions;
}; ## end setUpBenchmarkCall()
harmonize <- function(res) {
res <- as.data.frame(res); ## coerce to data.frame
for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
res <- res[order(names(res))]; ## order columns
res <- res[do.call(order,res),]; ## order rows
res;
}; ## end harmonize()
checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
for (joinType in getJoinTypes()) {
callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
if (length(callExpressions)<2L) next;
ex <- harmonize(eval(callExpressions[[1L]]));
for (i in seq(2L,len=length(callExpressions)-1L)) {
y <- harmonize(eval(callExpressions[[i]]));
if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
ex <<- ex;
y <<- y;
solType <- names(callExpressions)[i];
stop(paste0('non-identical: ',solType,' ',joinType,'.'));
}; ## end if
}; ## end for
}; ## end for
invisible();
}; ## end checkIdentical()
testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
bm <- microbenchmark(list=callExpressions,times=times);
if (is.null(metric)) return(bm);
bm <- summary(bm);
res <- setNames(nm=names(callExpressions),bm[[metric]]);
attr(res,'unit') <- attr(bm,'unit');
res;
}; ## end testJoinType()
testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
joinTypes <- getJoinTypes();
resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
if (is.null(metric)) return(resList);
units <- unname(unlist(lapply(resList,attr,'unit')));
res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
res;
}; ## end testAllJoinTypes()
testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {
res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
res[solTypes] <- NA_real_;
res$unit <- NA_character_;
for (ri in seq_len(nrow(res))) {
size <- res$size[ri];
overlap <- res$overlap[ri];
joinType <- res$joinType[ri];
argSpecs <- makeArgSpecsFunc(size,overlap);
checkIdentical(argSpecs,solTypes);
cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
res[ri,match(names(cur),names(res))] <- cur;
res$unit[ri] <- attr(cur,'unit');
}; ## end for
res;
}; ## end testGrid()
Hier ist ein Benchmark des Beispiels auf dem OP aus, dass ich gezeigt, früher:
## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
default=list(copySpec=1:2,args=list(
df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
'CustomerId'
)),
data.table.unkeyed=list(copySpec=1:2,args=list(
as.data.table(df1),
as.data.table(df2),
'CustomerId'
)),
data.table.keyed=list(copySpec=1:2,args=list(
setkey(as.data.table(df1),CustomerId),
setkey(as.data.table(df2),CustomerId)
))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2
checkIdentical(argSpecs);
testAllJoinTypes(argSpecs,metric='median');
## join merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed plyr dplyr in.place unit
## 1 inner 644.259 861.9345 923.516 9157.752 1580.390 959.2250 270.9190 NA microseconds
## 2 left 713.539 888.0205 910.045 8820.334 1529.714 968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804 909.1900 923.944 8930.668 1533.135 1063.7860 269.8495 218.1035 microseconds
## 4 full 1302.203 3107.5380 3184.729 NA NA 1593.6475 270.7055 NA microseconds
Hier habe ich Benchmark auf Zufallseingangsdaten, verschiedene Skalen und verschiedene Muster von Schlüssel Überlappung zwischen den beiden Eingabetabellen versuchen. Dieser Benchmark ist auf den Fall einer einzigen Spalte Integer-Schlüssel noch beschränkt. Wie gut, um sicherzustellen, dass die in-Place-Lösung für beide links funktionieren würde und rechts schließt sie die gleichen Tabellen, alle Zufallstestdaten verwenden 0..1:0..1
Mächtigkeit. Dies wird implementiert, indem ersatzlos Abtasten des Schlüsselspalts des ersten data.frame wenn die Schlüsselspalte des zweiten data.frame erzeugen.
makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {
com <- as.integer(size*overlap);
argSpecs <- list(
default=list(copySpec=1:2,args=list(
df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
'id'
)),
data.table.unkeyed=list(copySpec=1:2,args=list(
as.data.table(df1),
as.data.table(df2),
'id'
)),
data.table.keyed=list(copySpec=1:2,args=list(
setkey(as.data.table(df1),id),
setkey(as.data.table(df2),id)
))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2
argSpecs;
}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()
## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
## user system elapsed
## 22024.65 12308.63 34493.19
Ich schrieb einige Code erstellen Diagramme der obigen Ergebnisse-log log. I erzeugen einen separaten Plot für jedes Überlappungsprozent. Es ist ein wenig überladen, aber ich mag es, alle Lösungsmöglichkeiten und in der gleichen Parzelle dargestellten Typen verbinden.
I verwendet Spline-Interpolation eine glatte Kurve für jede Lösung zu zeigen / Typ Kombination verbinden, wobei die einzelnen PCH Symbole gezeichnet. Die Join-Typ wird durch das Symbol PCH erfasst, einen Punkt für die innere, linken und rechten Winkelstützen für links und rechts, und ein Diamant für die vollständige Verwendung. Der Lösungstyp wird durch die Farbe eingefangen, wie in der Legende angezeigt.
plotRes <- function(res,titleFunc,useFloor=F) {
solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
joinTypes <- getJoinTypes();
cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
pchs <- list(inner=20L,left='<',right='>',full=23L);
cexs <- c(inner=0.7,left=1,right=1,full=0.7);
NP <- 60L;
ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
for (overlap in unique(res$overlap)) {
x1 <- res[res$overlap==overlap,];
x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
xlim <- c(1e1,max(x1$size));
xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
abline(v=xticks,col='lightgrey');
abline(h=yticks.minor,col='lightgrey',lty=3L);
abline(h=yticks,col='lightgrey');
axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
x2 <- x1[x1$joinType==joinType,];
for (solType in solTypes) {
if (any(!is.na(x2[[solType]]))) {
xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
}; ## end if
}; ## end for
}; ## end for
## custom legend
## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
leg.cex <- 0.7;
leg.x.in <- grconvertX(0.275,'nfc','in');
leg.y.in <- grconvertY(0.6,'nfc','in');
leg.x.user <- grconvertX(leg.x.in,'in');
leg.y.user <- grconvertY(leg.y.in,'in');
leg.outpad.w.in <- 0.1;
leg.outpad.h.in <- 0.1;
leg.midpad.w.in <- 0.1;
leg.midpad.h.in <- 0.1;
leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
leg.main.w.in <- leg.join.w.in*length(joinTypes);
leg.main.h.in <- leg.sol.h.in*length(solTypes);
leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
for (i in seq_along(joinTypes)) {
joinType <- joinTypes[i];
points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
}; ## end for
title(titleFunc(overlap));
readline(sprintf('overlap %.02f',overlap));
}; ## end for
}; ## end plotRes()
titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);
Hier ist ein zweiter groß angelegter Maßstab das ist mehr schwere, in Bezug auf die Anzahl und Arten von Schlüsselspalten sowie Mächtigkeit. Für diesen Benchmark verwende ich drei wichtige Säulen: ein Zeichen, eine ganze Zahl ist, und eine logische, ohne Einschränkungen auf Mächtigkeit (das heißt, 0..*:0..*
). (Im Allgemeinen ist es nicht ratsam, Schlüsselspalten mit Doppel- oder komplexe Werte zu definieren, aufgrund Gleitkommazahlen Vergleich Komplikationen, und im Grunde niemand nutzt die rohe Art, viel weniger für Schlüsselspalten, so habe ich nicht diese Typen im Schlüssel enthalten Spalten. auch aus Gründen der Informationen, versuchte ich zunächst, indem einen POSIXct Schlüsselspalt vier Schlüsselspalten zu verwenden, aber der POSIXct Typ mit der sqldf.indexed
Lösung gut aus irgendeinem Grunde nicht spielen, möglicherweise aufgrund von Gleitkommazahlen Vergleich Anomalien, so ich entfernte es.)
makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {
## number of unique keys in df1
u1Size <- as.integer(size*uniquePct/100);
## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
## use ceiling() to ensure we cover u1Size; will truncate afterward
u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));
## generate the unique key values for df1
keys1 <- expand.grid(stringsAsFactors=F,
idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
idInteger=sample(u1SizePerKeyColumn),
idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
)[seq_len(u1Size),];
## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
## also scramble the order afterward
keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];
## common and unilateral key counts
com <- as.integer(size*overlap);
uni <- size-com;
## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
keys2 <- data.frame(stringsAsFactors=F,
idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
idInteger=u1SizePerKeyColumn+sample(uni),
idLogical=sample(c(F,T),uni,T)
##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
);
## rbind random keys from df1; this will complete the many-to-many relationship
## also scramble the order afterward
keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];
##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
keyNames <- c('idCharacter','idInteger','idLogical');
## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
argSpecs <- list(
default=list(copySpec=1:2,args=list(
df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
keyNames
)),
data.table.unkeyed=list(copySpec=1:2,args=list(
as.data.table(df1),
as.data.table(df2),
keyNames
)),
data.table.keyed=list(copySpec=1:2,args=list(
setkeyv(as.data.table(df1),keyNames),
setkeyv(as.data.table(df2),keyNames)
))
);
## prepare sqldf
initSqldf();
sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2
argSpecs;
}; ## end makeArgSpecs.assortedKey.optionalManyToMany()
sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
## user system elapsed
## 38895.50 784.19 39745.53
Die resultierenden Plots, die gleiche Plotten Code gegeben oben:
titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);
-
merge
Funktion verwenden wir die Variable der linken Tabelle oder rechten Tabelle, genauso wie wir alle kennen select-Anweisung in SQL (EX wählen: a Wählen Sie * ... oder b * Wählen Sie aus ....... ) -
Wir müssen zusätzliche Codes hinzufügen, die von der neu hinzugekommenen Tabelle Teilmenge werden.
-
SQL: -
select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId
-
R: -
merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]
-
Die gleiche Art und Weise
-
SQL: -
select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId
-
R: -
merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]
Für eine innere für alle Spalten verbinden, können Sie auch fintersect
aus der Nutzung data.table -Paket oder intersect
aus der dplyr -Paket als Alternative zu merge
ohne Angabe der by
-Spalten. dies wird die Reihen geben, die zwischen zwei Datenrahmen gleich sind:
merge(df1, df2)
# V1 V2
# 1 B 2
# 2 C 3
dplyr::intersect(df1, df2)
# V1 V2
# 1 B 2
# 2 C 3
data.table::fintersect(setDT(df1), setDT(df2))
# V1 V2
# 1: B 2
# 2: C 3
Beispieldaten:
df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)
Update kommen. Ein anderer wichtiger SQL-Stil verbinden wird " Update join ", wo in einer Tabelle Spalten werden aktualisiert (oder erstellt) eine andere Tabelle.
Ändern der Beispieltabellen des OP ...
sales = data.frame(
CustomerId = c(1, 1, 1, 3, 4, 6),
Year = 2000:2005,
Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
CustomerId = c(1, 1, 4, 6),
Year = c(2001L, 2002L, 2002L, 2002L),
State = state.name[1:4]
)
sales
# CustomerId Year Product
# 1 2000 Toaster
# 1 2001 Toaster
# 1 2002 Toaster
# 3 2003 Radio
# 4 2004 Radio
# 6 2005 Radio
cust
# CustomerId Year State
# 1 2001 Alabama
# 1 2002 Alaska
# 4 2002 Arizona
# 6 2002 Arkansas
Angenommen, wir den Kunden Zustand von cust
auf die Käufe Tabelle, sales
, ignoriert das Jahr Spalte hinzufügen möchten. Mit Base R identifizieren wir Reihen passende und dann kopieren Werte über:
sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]
# CustomerId Year Product State
# 1 2000 Toaster Alabama
# 1 2001 Toaster Alabama
# 1 2002 Toaster Alabama
# 3 2003 Radio <NA>
# 4 2004 Radio Arizona
# 6 2005 Radio Arkansas
# cleanup for the next example
sales$State <- NULL
Wie hier zu sehen sind, match
wählt die erste passende Zeile aus der Kundentabelle.
Update verbinden mit mehreren Spalten. Der Ansatz oben gut funktioniert, wenn wir nur eine einzige Spalte schließen sich an und sind zufrieden mit dem ersten Spiel. Angenommen, wir das Jahr der Messung in der Kundentabelle wollen das Verkaufsjahr anzupassen.
Wie @ bgoldst Antwort erwähnt, match
mit interaction
könnte eine Option für diesen Fall sein. Mehr unkompliziert, könnte man verwenden data.table:
library(data.table)
setDT(sales); setDT(cust)
sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]
# CustomerId Year Product State
# 1: 1 2000 Toaster <NA>
# 2: 1 2001 Toaster Alabama
# 3: 1 2002 Toaster Alaska
# 4: 3 2003 Radio <NA>
# 5: 4 2004 Radio <NA>
# 6: 6 2005 Radio <NA>
# cleanup for next example
sales[, State := NULL]
Rolling Update verbinden Alternativ können wir nehmen wollen wurde der letzte Zustand der Kunde gefunden:.
sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]
# CustomerId Year Product State
# 1: 1 2000 Toaster <NA>
# 2: 1 2001 Toaster Alabama
# 3: 1 2002 Toaster Alaska
# 4: 3 2003 Radio <NA>
# 5: 4 2004 Radio Arizona
# 6: 6 2005 Radio Arkansas
Die drei Beispiele vor allem Fokus auf die Schaffung / Hinzufügen einer neuen Spalte. Siehe den zugehörigen R FAQ ein Beispiel für die Aktualisierung / Änderung eine bestehende Spalte.